AI時代のリスクと機会──インシデントへの備えと対応

Risks and Opportunities: Incident Preparedness and Response in the Age of AI
IAPP Asia 2025: Privacy Forum + AI Governance Global 現地レポート[Vol.11]　

この記事は、IAPP Asia 2025: Privacy Forum + AI Governance Globalにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

転載：IAPP Global Privacy Summit 2025

本セッションでは、AI、特に生成AIの登場がサイバーセキュリティの脅威（フィッシング、ディープフェイク、ソーシャルエンジニアリングなど）をいかに巧妙化させ、攻撃の頻度とコストを劇的に変化させたかが議論されました。

AIによる攻撃が進化する一方、防御側もAIを活用したリアルタイムの異常検知や行動分析が不可欠となっています。さらに、AIシステム自体の脆弱性（データ汚染や内部脅威など）への対策や、業界全体での協力、堅牢なガバナンスの必要性について、専門家が議論を交わしました。

◆ この記事でわかること
===
・生成AIはフィッシングやディープフェイクなどのサイバー攻撃を高度化させ、攻撃のコストを引き下げ、頻度を増大させている。
・防御側は、進化する脅威に対抗するためにAIを活用し、異常なログインパターンや行動をリアルタイムで検知する必要がある。
・AIシステム自体もデータ汚染や内部脅威といった新たなリスクに直面しており、業界全体での協力と堅牢なガバナンスが求められる。
===

登壇者

Michael Egan, Partner, Cooley LLP
2007年以降、テクノロジー、イノベーション、小売･消費者向けソリューション、ライフサイエンス、製造業、金融サービス、医療分野におけるサイバー、データ、プライバシー問題に注力している。グローバルなプライバシーとデータ保護、データセキュリティ、データ侵害、情報技術、およびデータ収集･移転に関する関連規制の法的側面全般についてクライアントに助言を提供する。米国連邦取引委員会、米国司法省、米国証券取引委員会をはじめとする多数の政府機関･団体、ならびに世界各国のデータ保護当局に対し、データセキュリティコンプライアンス問題の開示、内部調査結果、是正措置、和解条件に関する企業代理業務を担当する。

Jun Chu, APAC Head of Cybersecurity and Privacy Policy, Google
IAPPアジア2025：プライバシーフォーラム＋AIガバナンスグローバルにおける講演者。

Joey Pang, Singapore Chief Operating Officer, DBS Bank
DBS銀行のテクノロジー弁護士兼リーガルテクノロジストである。日常業務では主に三つの分野を担当している。すなわち、(a)銀行のテクノロジー、制裁、マネーロンダリング対策に関する法務･コンプライアンス助言、(b)データ革新、データ倫理、AIガバナンスなどの新興技術に関連する規制問題への提言活動、(c)法務･コンプライアンス部門の新たな能力と業務手法を創出する銀行内の変革プロジェクトである。
DBSでの業務に加え、Joeyは複数の専門委員会･団体･活動に積極的に関与している。シンガポール法曹協会のサイバーセキュリティ･データ保護委員会共同議長、シンガポールコンピュータ協会のAI倫理･ガバナンス認証委員会副議長、同法曹協会の継続的専門能力開発委員会および情報技術委員会委員を務める。また、AsiaDPOの運営委員会メンバーを務め、シンガポールマネージメント大学(SMU)人工知能･データガバナンスセンターの専門家パネルにも任命されている。

Hailun Ying, Head of Privacy, Legal, Roblox
オンラインゲームプラットフォーム「Roblox」の法務部門プライバシー責任者であり、プライバシーおよびサイバーセキュリティ関連の法務案件を担当するチームを統括している。専門分野はGDPR、CCPA/CPRA、AADC、COPPAなど国内外のプライバシー規制に及ぶ。製品リリース、データインシデント、ポリシー策定におけるプライバシーおよびデータ保護要件に関する助言を提供している。
Roblox入社前はPayPalにて、M&A、製品、インシデント対応におけるプライバシー問題を担当。カリフォルニア州弁護士協会プライバシー法部門の現副会長であり、2020年の設立時から執行委員を務めている。サンタクララ大学ロースクールで法学博士号(J.D.)を、カリフォルニア大学バークレー校で経済学･政治学･心理学の学士号(B.A.)を取得。

はじめに

本日は、AI時代におけるサイバーセキュリティという、非常にエキサイティングで野心的、そして現実的なテーマについてお話しします。

AIはあらゆるものを定義し直しており、サイバーセキュリティもその例外ではありません。

本日は、企業はAIとサイバーセキュリティの相互作用をどう捉えているか、そして様々な業界（B2C、ゲーム、金融など）におけるAIがもたらす新たな脅威と課題について議論を行います。

AIがもたらすサイバー脅威と課題

AI、特に生成AIの登場が、サイバーセキュリティの状況をどのように変えたかについてお話しします。

AIは生産性を劇的に向上させましたが、同時にサイバー脅威の実行方法にも革命をもたらしました。

かつて見られたような、文法のおかしい「◯◯国からのメール」はもはや主流ではありません 。現在では、AIによって生成された、非常に巧妙で正当に見えるフィッシングメールやメッセージが送られています。

また、AIは攻撃の量と巧妙さを増大させました。以前は技術的に未熟だった攻撃者たちが、AIツールを活用することで、より高度な攻撃を行えるようになっています。AIによって攻撃のコストが下がり、頻度が増しているのです。

根本的なサイバーセキュリティの課題は依然として存在しますが、AIは既存の脆弱性を増幅させ、新たな脆弱性を生み出しました。

特に大きな懸念は、ディープフェイクやAIを利用したソーシャルエンジニアリングです。これらは、特にリモートワークやビデオ会議が普及した現代において、重大な脅威となっています。攻撃の手法は進化しており、攻撃者はAIを悪用して、より効果的にシステムを侵害しようとしています。

攻撃側がAIを利用している以上、防御側もAIを利用しなければ、常に後手に回ってしまいます。

AIは、データに基づきリアルタイムで脅威を検知し、対応するために不可欠です。これには、ユーザーの行動を監視し、異常なアクティビティを特定し、作業者の本人確認を行うこと等が含まれます。

例えば、以下のような異常な行動をAIモデルで検知し、調査のためにフラグを立てることができます。

• 異常なログインパターン: 普段とは異なる場所からのログイン。

• IPアドレスの跳躍: ほんの数秒で、ある国から別の国へIPアドレスが移動する。

• 非論理的なトランザクション: 人間の操作では不可能な速度でのクリックや取引。

• 通常からの逸脱: ゲーム内での通常とは異なる行動パターンや、AIを利用したチート行為。

また、ソーシャルエンジニアリング攻撃も進化しています。ある金融機関の従業員が、ビデオ会議で上司や同僚になりすましたディープフェイクに騙され、多額の送金をしてしまったというニュースがありました。

このような脅威に対し、技術的な防御だけでなく、追加の検証プロセス（例えば、ビデオ会議以外での確認、システム変更など）を導入するといった対策も講じられています。

AIシステム自体のサイバーセキュリティ

AIを活用した防御についてお話ししましたが、同時にAIシステム自体のセキュリティを確保することも極めて重要です。

私たちは、AIセキュリティのベストプラクティスを運用に移すため、エコシステム全体（政府、業界）と連携し、研究成果の共有や、標準化･ベンチマーキングのための業界連合の結成などを進めています。

AIモデル、特に事前学習済みモデルは、その学習データに脆弱性やバイアス、あるいは悪意のあるバックドアが仕込まれている可能性があります。学習データの完全性を検証し、操作されていないか監視するための「データ検証」メカニズムが不可欠です。

これは非常に大きな問題です。なぜなら、データの操作は広範囲に影響を及ぼす可能性があるからです。

基本的な考え方は、従来のサイバーセキュリティの原則をAIに適用することですが 、AIシステムの複雑性と多様性に対応するため、常にアプローチを見直し、改善し続ける必要があります。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

サイバーセキュリティ強化とインシデント対応へのAI活用

AIの導入には、リソースの制約や商業的な現実といった側面も考慮しなければなりません。望ましい結果を得るためには質の高いデータが必要ですが、質の悪いデータは逆に脆弱性を生み出す可能性があります。

また、プライバシーに配慮しつつイノベーションを達成するため、実際の個人情報を含まない「合成データ(Synthetic Data)」を活用するアプローチも進んでいます。

インシデント対応と脆弱性の発見は、AIガバナンスの鍵となります。

私たちは現在、AIエージェントを用いて脆弱性を自動で発見し、開発者に報告するプロジェクトを試験的に行っています。これは非常にエキサイティングな、そして新しい領域です。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

AIリスクに対処するための主な考慮事項とベストプラクティス

トップレベルの組織であってもインシデントは発生します。だからこそ、堅牢なガバナンスが不可欠です。

AIリスクに対処するための基本的な義務として、データの最小化、正規化、制御、そして保護が挙げられます。脅威は進化し続けるため、ガバナンスのプロセスも継続的に見直し、適応させていく必要があります。

これには、政府、産業界が連携したリスク評価が重要です。また、規制の明確化や、AIセキュリティ研究への継続的な投資も、エコシステム全体でAIを安全に活用するために不可欠です。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

質疑応答

質問: AIシステムにバックドアや悪意のあるトリガーを仕掛ける可能性のある「内部脅威」にどう対処しますか？

回答: これは非常に重要かつ困難な問題です。

基本的な対策は、厳格なアクセス制御と権限の最小化です。従業員は、その役割の遂行に本当に必要な情報だけにアクセスを制限されるべきです。

例えば、顧客サポート担当者であっても、請求情報にアクセスする必要はありません。ユーザー名リセット機能やパスワード変更機能など、必要な最小限のユーザー情報へのアクセスのみに限定すべきです。

AIは確かに効率性を高めますが、その効率性がリスクをも高めることを忘れてはなりません。このバランスを取り続ける必要があります。

以上

===

◆ 関連記事
[Vol.1]世界のAI・プライバシー専門家が語る未来──IAPPアジア2025 開会セッション
[Vol.2]企業において実現するプライバシー対応の自動化──グローバル視点での実践と戦略
[Vol.3]グローバルプライバシーの実装――最前線からの教訓
[Vol.4]AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス
[Vol.5]AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割
[Vol.6]AIにおけるデジタル信頼の構築──アジア太平洋の視点から
[Vol.7]進化する子供のプライバシー法──遵守するための実践的戦略
[Vol.8]AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス
[Vol.9]あなたのビジネスは大丈夫？アジアAI規制の最新マップ
[Vol.10]アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
[Vol.11]AI時代のリスクと機会──インシデントへの備えと対応←この記事
[Vol.12]AIガバナンス最前線──アジア各国の戦略
[Vol.13]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(前編）
[Vol.14]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(後編）

===

＜＜前へ：アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
＞＞次へ：AIガバナンス最前線──アジア各国の戦略

===

IAPP公式サイト：https://iapp.org/conference/global-privacy-summit/

#AIガバナンス　#AI利活用　#プライバシー　＃IAPP　#プライバシーガバナンス　#データガバナンス　#インシデント対応　#サイバーセキュリティ　#サイバー攻撃　#生成AI　#ソーシャルエンジニアリング　#ディープフェイク　#フィッシング　#AIセキュリティ　#内部脅威　#脆弱性　#ガバナンス　#アクセス制御　#リアルタイム検知