自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（後編）

Agentic AI: Navigating the Tension Between Privacy and the Next Generation of AI
IAPP Asia 2025: Privacy Forum + AI Governance Global 現地レポート[Vol.14]　

この記事は、IAPP Asia 2025: Privacy Forum + AI Governance Globalにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

転載：IAPP Global Privacy Summit 2025

前編では、自律的に行動するエージェンティックAI(Agentic AI)の台頭による「境界の消失」や、AI特有のリスクについて、OneTrustのOjas Rege氏による洞察をお届けしました。

後編となる本記事では、Rege氏が提示する具体的な解決策、ガバナンスの実践的フレームワーク、そしてAI時代に求められるプライバシー専門家のマインドセットの変革について詳しく紹介します。

◆ この記事でわかること
===
・AIモデルの破棄を防ぐため、開発初期からの「プライバシー･バイ･デザイン」とデータの「アクティベーション適合性」の確認が不可欠である。
・情報ライフサイクル全体でデータの目的外利用を監視し、人事ツールなど「調達したアプリ」に潜むガバナンスの死角に対処する必要がある。
・プライバシー部門はコンプライアンスの「ゲートキーパー」からビジネス成功の「実現者」へと役割を変え、評価指標もビジネス価値に直結させるべきである。
===

登壇者

Ojas Rege, CIPP/E, CIPM, Senior Vice President, Privacy and Data Governance, OneTrust
OneTrustのプライバシーおよびデータガバナンス事業担当上級副社長兼ゼネラルマネージャー。企業セキュリティ、プライバシー、データ管理分野で35年以上の経験を持つ。OneTrustの顧客やパートナーと緊密に連携し、データとAIの責任ある利用に向けたベストプラクティスを開発している。OneTrust入社前は、モバイルセキュリティの先駆企業であるMobileIronに11年間在籍し、戦略、マーケティング、製品開発を統括した。キャリアはオラクルのプロダクトラインマネージャーとしてスタートし、ボストン･コンサルティング･グループで数年間勤務。シリコンバレーのAI、セキュリティ、ID関連のスタートアップ企業に対し数多くの助言を提供してきた。
マサチューセッツ工科大学(MIT)でコンピュータ工学の学士号･修士号を取得し、スタンフォード大学でMBAを取得。情報セキュリティ政策分野におけるポネモン研究所のフェローであり、プライバシー分野ではCIPP/E（欧州プライバシー専門家）およびCIPM（プライバシー管理専門家）の認定資格を保持している。

ビジネスサイドが語る「リアルタイムの倫理的データアーキテクチャ」

前半では、自律的に動く「エージェンティックAI(Agentic AI)」がもたらすリスクや、従来のプライバシー原則との間に生じる緊張関係についてお話ししました。では、私たちは具体的にどうすればいいのでしょうか？ ここからは、皆さんが明日から実践できる解決策やマインドセットの変革について、私の考えを共有したいと思います。

解決策のヒントとして、ぜひ紹介したい記事があります。2025年3月24日、Forbes誌に掲載されたもので、執筆者はフィデリティ･インベストメンツ(Fidelity Investments)のデータプラットフォーム責任者です。

ここで注目していただきたいのは、この記事を書いたのがプライバシーの専門家でも、コンプライアンス担当者でも、規制当局の人間でもないという点です。バリバリのビジネスサイドの人間が、「リアルタイムの倫理的データアーキテクチャ」を構築する必要性を説いているのです。これは非常に大きな変化です。

記事の中で挙げられている解決策の第一は、「プライバシー･バイ･デザイン(Privacy by Design)」です。ソフトウェア開発の世界を想像してみてください。コードを書いている最中にエンジニアがバグを見つければ、修正は簡単です。QA（品質保証）の段階で見つかっても、まだ何とかなります。しかし、製品をリリースした後で顧客がバグを発見したらどうでしょう？その修正コストは跳ね上がり、ブランドへのダメージは計り知れません。

AI開発も全く同じです。システムを構築し、モデルが動き出した後でプライバシー上の欠陥が見つかれば、その代償は甚大です。だからこそ、後付けではなく、開発の初期段階からプライバシーをエンジニアリングの原則として組み込む必要があるのです。

「AI-Ready Data」に欠かせない第3の要素

次に、データの話をしましょう。AI-Ready Dataという言葉をよく耳にすると思います。通常、AI対応と言うと、2つの要素が思い浮かびます。1つ目は「品質(Quality)」です。正確で完全なデータでなければ、AIは正しい答えを出せません。

2つ目は「セキュリティ(Security)」です。データが脅威から守られているか、改ざんされていないか、ということです。SnowflakeやDatabricksのイベントに行けば、どのブースでもこの2つについては語られています。

しかし、私はここに3つ目の、そして決定的に重要な要素を加えたいと思います。それは「アクティベーション適合性(Fitness for Activation)」です。

自問してみてください。そのデータが高品質で堅牢に守られていたとしても、「そのデータを利用する権利が本当にあるのか？」「適切な同意は取れているのか？」「社内の倫理規定や契約に照らして問題ないか？」。

もし、これらの問いに自信を持って「YES」と言えないなら、そのデータをAIのトレーニングに使うべきではありません。なぜなら、不適切なデータを使ってモデルを作ってしまえば、最悪の場合、「モデルの破棄(Disgorgement)」という悪夢のような事態を招きかねないからです。

プライバシー管理は、もはや単なるコンプライアンス遵守の活動ではありません。AIという強力なエンジンを動かすための、「燃料の品質保証」という極めて重要な役割を担っているのです。

「ドリフト（逸脱）」を監視し、スケールするリスクに備える

では、エージェンティックAIのガバナンスを、どのように実践に落とし込めばよいのでしょうか？ 私は、NIST（米国国立標準技術研究所）などが提唱する「情報ライフサイクル」のフレームワークを出発点にすることをお勧めします。

データの収集から廃棄に至るライフサイクルの中で、私が特に皆さんに警戒していただきたいのが「ドリフト（Drift：逸脱）」という現象です。

セキュリティチームの友人に「最大のリスクは何か？」と聞けば、彼らは「喪失(Loss)」だと答えるでしょう。ハッカーにデータを盗まれることですね。しかし、我々プライバシーチームが主に懸念すべきは、内部によるデータの「誤用(Misuse)」です。

悪意のあるハッカーではなく、社内の人間が、当初の目的とは異なる用途でデータを使い始めてしまう。許可された範囲から徐々に逸脱していく。これこそが「ドリフト」です。

特にAIモデルはブラックボックス化しやすく、データの提供先としてはサードパーティの一種と言えます。一度データを渡したら終わりではなく、ライフサイクル全体を通じて、この「ドリフト」が起きていないかを継続的に監視する必要があります。

なぜなら、エージェンティックAIの最大の特徴は、能力をスケール（規模拡大）させる点にあるからです。AIは素晴らしい価値を生み出すと同時に、適切なガードレールがなければ、人間では不可能なスピードと規模で甚大な損害や誤用を引き起こしてしまう可能性があるのです。

「AIエンジニアなんて存在しない」 ― 組織の死角に気づく

AIが企業活動の隅々にまで浸透するにつれ、ガバナンスのあり方も変化を迫られています。 先日、弊社の技術責任者と話していた時のことです。私が「もっとAIエンジニアを採用すべきだ」と言ったところ、彼はこう返してきました。

「Ojas、AIエンジニアなんて職種はもう存在しないんだよ。これからは全てのエンジニアがAIを扱うようになるんだ。」

目から鱗が落ちる思いでした。つまり、これからは企業のすべてのコード、すべてのデータ、すべてのプロセスにAIが関与するようになるということです。すべてを完璧に管理することは不可能です。だからこそ、リスクの所在を見極め、メリハリのあるガバナンスの勾配をつける必要があります。

その中で、多くの組織にとって盲点、つまり「死角」となりがちなのが、調達したアプリケーションです。社内のデータサイエンスチームが開発しているモデルについては、皆さんも把握しているでしょう。しかし、人事部や営業部が独自に導入したSaaSツールに、AIが組み込まれていることを見落としていませんか？

例えば、人事部が採用効率化のために導入した「履歴書スキャンツール」を考えてみてください。これがEU AI法案などで「ハイリスク」に分類されるAIを使用している可能性があります。自分たちがリスクだと認識していなかったサードパーティ製ソフトウェアの中にこそ、最大のリスクが潜んでいるかもしれないのです。

「なぜその道を選んだのか？」 ― 透明性への現実的なアプローチ

AIガバナンスにおいて「透明性」や「説明可能性」は常に議論の的です。私の元同僚に、AppleのSiriのコードを書いた人物がいます。彼に「非線形なAIモデルの判断をどうやって説明すればいい？」と尋ねたところ、彼は「技術的にそれは不可能だ。説明なんてできないよ。」と一蹴しました。

技術的にはそうかもしれません。しかし、私は悲観していません。冒頭（前編）でお話しした「マリーナベイ･サンズへの道順」の例を思い出してください。皆さんがホテルからここまで歩いてきたとして、「なぜそのルートを選んだのですか？」と聞かれたら、どう答えますか？「こっちの道は工事中だったから」「海沿いの景色を見たかったから」と答えるでしょう。その時、脳内のニューロンがどう発火したかを説明する必要はありませんよね？人間が理解できるロジックや振る舞いの理由を説明できれば十分なのです。

AIにおいても同じアプローチが可能です。技術的なブラックボックスを完全に解明できなくとも、そのAIがなぜそのような判断を下したのか、どのようなロジックに基づいているのかを、ビジネスユーザーや消費者が理解できるレベルで説明責任を果たすこと。これが私たちが目指すべき現実的な「透明性」です。

マインドセットを変えよう ― 「ゲートキーパー」から「実現者」へ

最後に、私たちプライバシー専門家に求められるマインドセットと評価指標の変革についてお話しして、締めくくりたいと思います。

現在、世界中でより高性能なAIモデルを開発しようという競争が起きています。しかし、歴史を振り返ってみてください。GDPや企業の収益を実際に押し上げてきたのは、技術の発明そのものではなく、その技術が広く社会や組織に採用された時でした。AIの恩恵を享受し勝者となるのは、最高のAIを発明した組織ではありません。全従業員が高いAIリテラシーを持ち、業務にAIを組み込めるようになった組織です。

ですから、我々のガバナンスの目的も「リスクを止めること」から「安全かつ迅速な活用を促進すること」へとシフトしなければなりません。適切に統治し、速く勝つことこそが、目指すべきゴールなのです。

そのために、言葉を変え、役割を変えましょう。 「アセスメント実施件数」や「罰金回避」といった従来の指標は、経営陣には響きません。ビジネス価値への貢献を示す必要があります。

ある顧客企業が、非常に賢い取り組みをしていました。彼らは社内で「プライバシー影響評価(PIA)」という言葉を廃止したのです。 「PIAをやるぞ」と言われると、現場は「監査される」「Noと言われる」と身構えてしまいますよね。

代わりに彼らが名付けたのは、「データ活用化計画(Data Enablement Plan)」でした。 中身はPIAと同じです。しかし、この名称であれば、事業部は「自分のプロジェクトを成功させるためのステップ」として前向きに捉えることができます。言葉の力は偉大なのです。

また、プライバシーチームを「ビジネスパートナー」として位置づけている企業もあります。半年に一度、事業部門のリーダーと会い、「今後1年のデータ活用目標は何ですか？」と尋ねます。そして「それを実現するために、我々プライバシーチームは何をすべきでしょうか？」と一緒に考えるのです。

こうすることで、私たちの評価指標は劇的に変わります。「重要プロジェクトのカバー率」や「開発初期でのリスク解決数」、「プロジェクトのスピード向上への貢献」といった、ビジネスに直結するものへと進化するのです。

私たちプライバシー専門家は、もはやコンプライアンスのための「ゲートキーパー」ではありません。組織がAIという強力なテクノロジーを使いこなし、ビジネスを成功させるための「実現者」なのです。

この意識変革こそが、エージェンティックAI時代におけるプライバシー管理の核心だと私は信じています。

本日は長時間にわたりお付き合いいただき、本当にありがとうございました。

以上

===

◆ 関連記事
[Vol.1]世界のAI・プライバシー専門家が語る未来──IAPPアジア2025 開会セッション
[Vol.2]企業において実現するプライバシー対応の自動化──グローバル視点での実践と戦略
[Vol.3]グローバルプライバシーの実装――最前線からの教訓
[Vol.4]AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス
[Vol.5]AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割
[Vol.6]AIにおけるデジタル信頼の構築──アジア太平洋の視点から
[Vol.7]進化する子供のプライバシー法──遵守するための実践的戦略
[Vol.8]AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス
[Vol.9]あなたのビジネスは大丈夫？アジアAI規制の最新マップ
[Vol.10]アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
[Vol.11]AI時代のリスクと機会──インシデントへの備えと対応
[Vol.12]AIガバナンス最前線──アジア各国の戦略
[Vol.13]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（前編）[Vol.14]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（後編）←この記事

===

＜＜前へ：自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（前編）

===

IAPP公式サイト：https://iapp.org/conference/global-privacy-summit/

#AIガバナンス　#AI利活用　#プライバシー　＃IAPP　#プライバシーガバナンス　#データガバナンス　#AgenticAI　#エージェンティックAI　#自律型AI　#エージェント　#アクティベーション適合性　#責任あるAI　#情報ライフサイクル　#透明性　#プライバシー･バイ･デザイン　#モデルの破棄　#説明可能性　#OneTrust　#プライバシー評価指標