自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（前編）

Agentic AI: Navigating the Tension Between Privacy and the Next Generation of AI
IAPP Asia 2025: Privacy Forum + AI Governance Global 現地レポート[Vol.13]　

この記事は、IAPP Asia 2025: Privacy Forum + AI Governance Globalにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

転載：IAPP Global Privacy Summit 2025

AI技術の進化は止まるところを知りません。生成AIの衝撃も冷めやらぬ中、現在、新たな潮流として「エージェンティックAI（Agentic AI：自律型AI）」が注目を集めています。本セッションでは、OneTrustのOjas Rege氏より、この新しいAIがもたらす機会と既存のプライバシーフレームワークとの間に生じる緊張関係、そしてそのリスク管理について語られました。

本レポートでは、講演の内容を2回に分けてお届けします。前編となる今回は、エージェンティックAIの本質的な理解、そして直面するリスクと課題について、Ojas氏の講演の模様を詳細にお伝えします。

◆ この記事でわかること
===
・エージェンティックAIは自律的なシステムであり、人間（新入社員）と同様のアナロジーで管理する必要がある。
・予測不能な挙動をするAIには、システムへのアクセス制限や人間による承認（ヒューマン･イン･ザ･ループ）といったガードレールが不可欠である。
・不適切なデータ利用は致命的なリスクを招き、エージェンティックAIの特性は従来のプライバシー原則との間に緊張関係を生じさせている。
===

登壇者

Ojas Rege, CIPP/E, CIPM, Senior Vice President, Privacy and Data Governance, OneTrust
OneTrustのプライバシーおよびデータガバナンス事業担当上級副社長兼ゼネラルマネージャー。企業セキュリティ、プライバシー、データ管理分野で35年以上の経験を持つ。OneTrustの顧客やパートナーと緊密に連携し、データとAIの責任ある利用に向けたベストプラクティスを開発している。OneTrust入社前は、モバイルセキュリティの先駆企業であるMobileIronに11年間在籍し、戦略、マーケティング、製品開発を統括した。キャリアはオラクルのプロダクトラインマネージャーとしてスタートし、ボストン･コンサルティング･グループで数年間勤務。シリコンバレーのAI、セキュリティ、ID関連のスタートアップ企業に対し数多くの助言を提供してきた。
マサチューセッツ工科大学(MIT)でコンピュータ工学の学士号･修士号を取得し、スタンフォード大学でMBAを取得。情報セキュリティ政策分野におけるポネモン研究所のフェローであり、プライバシー分野ではCIPP/E（欧州プライバシー専門家）およびCIPM（プライバシー管理専門家）の認定資格を保持している。

はじめに：データの歴史と「境界の消失」

皆さん、こんにちは。本日は、複雑で少し混乱しがちですが、最終的には皆さんのビジネスに非常に大きなインパクトを与えるテーマについてお話しします。

ここIAPPの会場だけでなく、皆さんの日々の業務のほぼ全てが、今やAIの影響を受けていることでしょう。プライバシーの世界で、私たちがようやくAIの構成要素を理解し始めた矢先に、また新しい波がやってきました。それが「エージェント」という概念です。

今日はこの「エージェンティックAI」について、皆さんと一緒に少し深く掘り下げていきたいと思います。まずは少し私のバックグラウンドをお話しさせてください。私はテクノロジー業界に身を置いて、もう37年になります。大学を出て最初に就職したのは1988年、従業員1,000人ほどの小さな会社でした。

なぜこんな昔話をするかというと、当時は「データが重要だ」と人々を説得すること自体が大変な仕事だったからです。データというのは、地下室にある巨大なメインフレームの中に閉じ込められているものと思われており、マーケティングや営業、製品開発の人間が使うものだなんて、誰も考えていませんでした。今では「データが重要」なんて言うと、当たり前すぎて笑われてしまいますよね。それくらい時代は変わったのです。

さて、本題に入りましょう。私がまず強調したいのは、AIであれデータであれ、私たちが直面しているのは「境界線の消失」だということです。データガバナンス、AIガバナンス、プライバシー。これらの交差点はますます大きくなっています。これらはすべて、根底では「データの問題」だからです。

ここで一つ、皆さんに覚えておいてほしい重要な法則があります。それは、「AIが登場した瞬間、データガバナンスやプライバシープログラムに存在するあらゆる『隙間（ギャップ）』が増幅される」という事実です。

わかりやすい例を挙げましょう。2000年代初頭、オフィスにWi-Fiが導入され始めた頃を覚えていますか？社員が勝手にアクセスポイントを持ち込み始め、ネットワークの最も弱い部分、管理が行き届いていない部分が一気に露呈しました。AIでもまったく同じことが起こります。AIは組織のガバナンス体制の弱点を、容赦なく浮き彫りにするのです。

そして、私たちが目指すべき「責任あるAI(Responsible AI)」とは、単なるデータ倫理の話ではありません。これらの新技術から持続可能な価値を引き出すための、ビジネス上の必須条件なのです。

現在、多くの組織でビジネスサイドは「AIを使わなければ競合に負ける」という強烈なプレッシャーの中にいます。一方でリスク対策チームは「信頼を損なう事故を絶対に起こしてはならない」というプレッシャーの中にいます。我々の課題は、適切に統治することと、速く動くこと、この両方を同時に実現することです。どちらか一つでは失敗します。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

なぜ今、「エージェント」なのか？

では、最近話題の「エージェント」について触れていきましょう。

最近、どのソフトウェア会社のホームページを見ても「エージェント」という言葉が踊っていますよね。ServiceNowもそうですし、Salesforceに至っては「Agentforce」と呼んでいます。Microsoftもそうです。そしてよく見ると、「デジタル労働力」なんて言葉も使われています。これは単なるマーケティング用語なのでしょうか？

私はそうではないと思います。例えば、情報セキュリティの世界を見てください。今、企業を攻撃しているのは人間ではありません。「エージェント」です。AIが悪意を持って自律的に攻撃を仕掛けてきています。人間の手作業のスピードでは、機械のスピードには到底対抗できません。だから防御側も、対抗するためにAIのエージェントを使う必要がある。これはある種の軍拡競争のようなものです。

このように、エージェントは特定の業界においては「そうせざるを得ない」必然性を持っています。そしてこれは、ソフトウェアの根本的な進化でもあります。過去30年を振り返ると、インターネットが「アクセス」を変え、クラウドが「インストール」を不要にし、モバイルがそれを「ポケット」に入れました。

これらはすべて利用可能性の進化でした。しかし、AIがこれらと決定的に違うのは、それが学習するシステムだという点です。

エージェントを「新入社員」として理解する

技術的な詳細部分には深入りせずに、ガバナンスの観点からエージェントを理解するにはどうすればいいのでしょうか？ 私は、次の3つの要素に分解して考えることをお勧めします。

1. スキル： 訓練された特定のタスクを実行する能力。

2. API： システムへの接続権限。読み取りだけか、書き込みもできるか。

3. リーズニング（論理的な思考や推論）： 学習し、判断を下す能力。これは非線形なプロセスです。

これって、何かに似ていませんか？ そう、「人間」です。 皆さんが新しい社員を雇うときを想像してください。彼らには特定のスキルがあり、役割に応じたシステムへのアクセス権を与えます。そして彼らは、自分の頭で考えて判断します。

エージェントを、SF映画に出てくるような未知の存在としてではなく、この「人間（従業員）」のアナロジーで捉えることは、リスク管理を考える上で非常に有効です。どのシステムにアクセスさせ、何を許可し、どう判断させるか。問いかけるべきことは同じなのです。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

2歳半の子供とガードレール

エージェントの最大の特徴は、自律的(Autonomous)で、適応的(Adaptive)で、非線形(Non-linear)であることです。

私の家に、まさにこの特徴を持った存在がいます。2歳半の娘です。彼女は信じられないほど自律的で、親の言うことなんて聞きません。毎日あらゆることから学習し（適応的）、同じ状況でも日によって全く違う行動をとります（非線形）。

では、この「自律的で適応的な思考者」に対して、親としてどのようなガードレールを設けるでしょうか？ 遊び場を想像してください。周りにはフェンスがあり、地面は転んでも痛くない柔らかいゴムで舗装されています。2メートル以上の高さのものはありません。

AIのエージェントにも、これと全く同じガードレールが必要です。まずは「フェンス」。これは、エージェントがアクセスできるシステムの範囲です。読み取り権限だけなのか、書き込みも許可するのか。勝手にアクションを実行できるのか、できないのか。APIレベルでの管理が不可欠です。

そして、「ヒューマン･イン･ザ･ループ（人間による介在）」。遊び場には先生や親がいて、子供がパズルで行き詰まったときや危険なときに助けます。AIエージェントも同様です。完全に任せきりにするのではなく、重要な決定の前には人間による承認フローを挟むべきです。

さらに将来的には、エージェントを監視するための別のエージェント（ガーディアン･エージェント）が登場するでしょう。子供同士でお互いを見張らせるのは無理がありますが（すぐにアイスクリームを買いに走ってしまうでしょうから）、AIの世界ではそれが可能になります。

AI特有のリスク

なぜ、これほど慎重になる必要があるのでしょうか？ AIには、従来のプライバシー問題とは異なる、特有の厄介なリスクがあるからです。

従来のプライバシー侵害であれば、罰金を払い、プロセスを修正し、通知を行えば済みました。しかし、AIモデルの場合はどうでしょうか？もし、不適切なデータ、偏ったデータ、同意のないデータを使ってモデルを訓練してしまったら？特定のデータだけを抜き取ることはできません。すべてをロールバックする必要があります。

米国では実際に、顔認識技術の使用を禁止する条例が2019年にサンフランシスコ市議会で可決されて以来、同様の条例が各地で制定されています。AIシステムの偏りや、誤った人物を特定すること、適切なリスク評価が行われていなかったことなどが理由でした。

これは金銭的な罰金ではありません。「技術そのものを使ってはいけない」という命令です。小売業において、今後5年間AIを使えないとしたらどうでしょうか？それはビジネスの死を意味しかねません。なぜなら、顔認識技術は店舗内でのほぼ全ての業務、商品管理などあらゆる基盤となり得るものだからです。

この事例を挙げたのは脅しではなく、最初からプライバシーを適切に扱うことがいかに重要かを強調するためです。このテーマについては後ほど改めて触れようと思います。

プライバシー原則との緊張関係

次に、エージェンティックAIの特性は、従来のプライバシー原則と真っ向から対立する場面があることについて触れておきます。

1. 目的外利用の制限(Purpose Limitation)： モデルは汎用的です。ある目的（例：パーソナライゼーション）のために収集したデータで訓練したモデルを、別の目的（例：ターゲティング）に転用することは容易ですが、これは原則に反する可能性があります。

2. 忘れられる権利(Right to be Forgotten)： バリ島への旅行の記憶を例にしましょう。一度楽しい経験をしたら、その記憶は後の意思決定に影響を与え続けます。「バリ島の記憶だけ消して」と言われても、人間の脳からそれは切り離せません。AIモデルも同じです。学習済みのモデルから特定の個人の影響だけを「忘れさせる(Unlearn)」ことは、技術的に極めて困難です。

3. 透明性(Transparency)： 非線形なシステムであるAIは、なぜその答えに至ったのかを完全には説明できません。しかし、だからと言って説明を放棄してはいけません。例えば、皆さんがホテルからマリーナベイ･サンズまで歩いてきたとします。「なぜそのルートを選んだの？」と聞かれたら、「工事中だったから」「海沿いを歩きたかったから」とロジックで説明できますよね。脳内のニューロンがどう発火したかを説明する必要はないのです。AIの透明性も、このレベルでの説明責任がまずは求められるはずです。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

（後編へ続く）

次回の後編では、これらの課題に対して企業がどのように実践的なガバナンスを構築すべきか、「プライバシー･バイ･デザイン」の進化形や「AI対応データ」の定義、そして部門間の連携について、引き続きOjas氏の講演内容をお届けします。

以上

===

◆ 関連記事
[Vol.1]世界のAI・プライバシー専門家が語る未来──IAPPアジア2025 開会セッション
[Vol.2]企業において実現するプライバシー対応の自動化──グローバル視点での実践と戦略
[Vol.3]グローバルプライバシーの実装――最前線からの教訓
[Vol.4]AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス
[Vol.5]AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割
[Vol.6]AIにおけるデジタル信頼の構築──アジア太平洋の視点から
[Vol.7]進化する子供のプライバシー法──遵守するための実践的戦略
[Vol.8]AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス
[Vol.9]あなたのビジネスは大丈夫？アジアAI規制の最新マップ
[Vol.10]アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
[Vol.11]AI時代のリスクと機会──インシデントへの備えと対応
[Vol.12]AIガバナンス最前線──アジア各国の戦略
[Vol.13]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか（前編）←この記事
[Vol.14]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(後編）

===

＜＜前へ：AIガバナンス最前線──アジア各国の戦略
＞＞次へ：自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(後編）

===

IAPP公式サイト：https://iapp.org/conference/global-privacy-summit/

#AIガバナンス　#AI利活用　#プライバシー　＃IAPP　#プライバシーガバナンス　#データガバナンス　#AgenticAI　#エージェンティックAI　#自律型AI　#エージェント　#リーズニング　#目的外利用の制限　#忘れられる権利　#透明性　#ヒューマン･イン･ザ･ループ　#デジタル労働力　#汎用的　#責任あるAI　#非線形