AIは「エージェント」の時代へ──未来のプライバシーを考える

Panel Session 5 Agentic AI and Privacy
GPA 2025 SEOUL: 47th Global Privacy Assembly 現地レポート[Vol.9]　

この記事は、GPA 2025 SEOUL: 47th Global Privacy Assemblyにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。
また、この記事は音声でもお楽しみいただけます（Notebook LMの音声概要機能を利用しています。記事の内容との齟齬や文字の読み方が正確でない部分がありますので、予めご了承ください）。

この度、株式会社プライバシーテックは、2025年9月に韓国ソウルで開催された国際会議「GPA Seoul 2025」に参加いたしました。本会議では「日常生活における人工知知能(AI)：データとプライバシーの課題」をテーマに、AI時代のデータガバナンスについて活発な議論が交わされました。弊社が聴講した主要セッションの内容を、皆様の実務に役立つ形でお届けします。

◆ この記事でわかること
===
・エージェントAIは、目標達成のために自ら計画･推論･行動する「自律性」が特徴で、従来の生成AIとは根本的に異なる。　
・AIがユーザーに代わって自律的にデータ収集やサービス連携を行うため、現在の同意モデルでは対応できず、新たなプライバシーリスクが生じる。
・リスク対応のため、技術標準の確立、設計段階からのプライバシー配慮（プライバシー･バイ･デザイン）、規制当局と企業の早期連携が不可欠である。
===

登壇者

転載：GPA SEOUL 2025

Moderator: Yong Lim (Professor, Seoul National University College of Law)
Yong Limはソウル大学(SNU)法学専門大学院の准教授であり、2020年まで学生担当の副学部長も務めた。彼はSNU AI政策イニシアティブ(SAPI)の共同創設者兼ディレクターでもある。 SAPIは現在、SNUのTrustworthy AIセンターにおいて、AIの規範的および技術的基準を確立するプロジェクトを主導する研究室の一つである。彼の専門分野は、競争法、消費者保護、プライバシーおよびデータガバナンスである。
ソウル大学法学部を卒業し、ハーバード･ロースクールで法学博士号(S.J.D.)を取得。 学術界に入る前は、韓国ソウルの金・張法律事務所で弁護士として実務に携わった。2023年にペンシルベニア大学ロースクールでBok国際客員教授を務めた。

John Edwards (Information Commissioner, ICO, UK)
2022年1月より、Johnは第6代英国情報コミッショナーを務めている。これ以前には8年間ニュージーランドのプライバシーコミッショナーとして、データ保護とプライバシー分野で国際的な評価を築き、現在はグローバル･プライバシー･アセンブリーの議長も務めている。また、ニュージーランド政府の政策アドバイザー、官民セクターで20年以上にわたる弁護士としての経験、さらには登山家としての経歴も持つなど、多様な職務を経験してきた。
彼のビジョンと使命は、ICOが「人々の情報共有を促進し、個人と公共の利益に資する存在」となり、組織が「デジタル経済において安全に情報活用し、投資と革新を推進する基盤」となることである。経済全体を統括する規制当局として、彼はAI、生体認証技術、児童プライバシー、アドテック（広告技術）、オンライン追跡技術分野において、より優れた迅速かつ効果的な規制介入の実現に注力している。
モットー：「我々は中央で一度投資することで、経済全体にわたる数千の企業に節約効果をもたらす」

Jules Polonetsky (CEO, Future of Privacy Forum)
15年間にわたり、Future of Privacy ForumのCEOを務めている。このグローバルな非営利組織は、プライバシー分野におけるリーダーシップと学術研究の触媒として機能し、新興技術を支援するための原則に基づいたデータ実務を推進している。
彼は数多くの行動規範やベストプラクティスの策定を主導し、データ保護法の起草を支援し、世界中の機関や議会で専門家証言を行ってきた。

Kate Charlet (Head of Global Privacy, Safety, and Security, Google)
Googleの政府関連･公共政策(GAPP)チーム内で、プライバシー、安全、およびセキュリティに関するセンター･オブ･エクセレンスを率いている。 彼女のグローバルチームは、プライバシー、セキュリティ、児童に関するポリシー、および政府によるデータアクセスに関連する事項を専門的に扱っている。
彼女はキャリアの大半を、テクノロジーと公共政策の交差点で過ごしてきた。 彼女は以前、カーネギー国際平和基金でテクノロジー＆国際問題担当の初代ディレクターを務め、米国政府で10年間公務員として勤務した。その経歴には、国防総省のサイバー政策担当副次官補代理、アフガニスタン担当カントリーディレクター、ホワイトハウス国家安全保障会議の戦略計画ディレクターなどが含まれる。
プリンストン大学で分子生物学の学士号を、ジョンズ･ホプキンス大学高等国際関係大学院で戦略研究の修士号を取得。 夫と2人の子供と共にワシントンDCに在住している。

Yoochul Kim (Head of Strategy Division, LG AI Research)
LG AI研究院（韓国ソウル）の戦略責任者であり、AI戦略、倫理、およびグローバルな協力を率いている。 彼はLGのAI倫理原則の共同策定、AIリスク管理プロセスの確立、および研修のためのLG AIアカデミーの創設に携わった。
UNESCOのAIビジネス評議会のメンバーであり、韓国政府のAI倫理フォーラムの参加者、そしてOECDのDFFT専門家でもある。 以前は、LGエレクトロニクスおよびLGサイエンスパークで勤務していた。
ソウル大学で電気工学の学士号を取得し、MITスローン経営大学院でMBAを修了している。 2024年、AI倫理の専門知識が認められ、韓国の大統領表彰を受賞した。

はじめに：新たな潮流「エージェントAI」がもたらす変革

Yong: 皆様、本日のセッションへようこそ。ほんの1、2年前まで、AIガバナンスに関する世界の議論は、そのほとんどが「生成AI」を中心に展開されていました。しかし今、私たちは新たな技術的潮流の幕開けに立っています。それが「エージェントAI」です。

本日は、この「エージェントAI」が私たちの社会にもたらすであろうプライバシーの新たな可能性と、それに伴う未知のリスク、そして私たちが構築すべき法的枠組みについて、深く議論していきたいと思います。

まず、この重要な議論の前提として、「エージェントAI」とは一体何を指すのか、その定義を共有する必要があります。これは単一の技術を指す言葉ではなく、非常に多様な形態を含む広範な概念です。

そこで、まず産業界の第一線で開発に携わる皆様から、プライバシー保護という観点において、この新しい技術が何を意味するのか、ご説明いただけますでしょうか。

Yoochul: エージェントAIとは、一言で言えば、自らが置かれた環境をリアルタイムで感知し、人間の直接的な介入を最小限に抑えながら、あらかじめ設定された目標に向かって自律的に行動する、高度なAIシステムを指します。

従来の生成AIが、ユーザーからのプロンプトに応じてコンテンツを生成･応答する「コンテンツエンジン」のような存在だとすれば、エージェントAIは、自ら計画を立て、必要なデータを収集し、状況に応じて意思決定を行い、そして実際にタスクを実行に移す、あたかも有能な「プロジェクトマネージャー」のような存在であると言えるでしょう。

例えば、私たちLG AIリサーチでは、石油化学プラントにおける極めて複雑な生産プロセスを最適化するエージェントAIシステムを開発しています。このAIは、生産性の変動や市場の状況といった膨大なデータを継続的に読み取り、利益を最大化し、同時にコストを削減するという目標を達成するために、動的に生産スケジュールを調整します。

また、AI開発の品質保証プロセス自体を自動化し、バグを発見･修正するという、メタ的な役割を担うエージェントも設計されています。

Kate: Googleでは、エージェントを「ユーザーからの入力を深く推論し、その意図を汲み取って、ユーザーに代わって一連の行動を計画･実行する能力」と定義しています。その本質を構成する要素は「推論」「計画」「自律性」という、三つのキーワードに集約されます。

例えば、ユーザーが「友人たちのための誕生日パーティーを計画して」というような、非常に複雑で高次元な目標を与えると、エージェントAIはそれを「参加候補者の予定を確認する」「会場の候補を探し、予約する」「食事のケータリングを手配する」といった、複数の具体的なサブタスクに自ら分解します。

そして、その計画を実行する過程で、予期せぬ問題、例えば会場の予約が埋まっているといった事態が発生しても、動的に計画を修正し、自身の「ツールボックス」の中から、その状況を解決するために最も適したツール（他のアプリケーションやオンラインサービス）を自律的に選択して、タスクを最後まで遂行します。

この高度な自律性と、複雑なタスクを分解し、再構築する能力こそが、エージェントAIをこれまでのAIと一線を画すものにしているのです。

エージェントAIがもたらす新たなプライバシーの課題

Yong: ありがとうございます。エージェントAIが持つ、自律的なデータ収集能力と行動力は、これまでのAIとプライバシーの観点でどのように異なり、私たちはどのような新たなリスクに備えるべきなのでしょうか。

Jules: 私たちのサービスとの関わり方そのものが、根本的に変わるでしょう。かつて私たちが海外旅行の計画を立てるには、旅行代理店に電話をかけるか、あるいは自分で複数の航空会社やホテルのウェブサイトを一つひとつ検索し、価格や条件を比較検討する必要がありました。

しかし、将来のエージェントAIは、「この予算の範囲内で、家族それぞれの食事の好みを考慮して、この観光地の近くにあるホテルを予約して」と、ごく自然な言葉で指示するだけで、その全ての複雑なプロセスを代行してくれるようになるでしょう。

ここでの根本的な問題は、現在の私たちのプライバシー保護の仕組みが、この新しい対話モデルに全く対応していないという点です。ウェブサイトにアクセスするたびに表示されるクッキーポリシーのバナーに同意し、長大な利用規約を確認するという現在のやり方は、エージェントAIが私たちの背後で、自律的に多数のオンラインサービスと連携し、情報をやり取りする世界では、もはや機能しません。

エージェントAIが私たちのために最善の価格交渉をする過程で、当初は全く意図していなかった形で、私たちの個人データが第三者と共有されてしまうかもしれません。まだルールが構築されていない、まさに今この黎明期だからこそ、私たちはこの問題に真剣に取り組む必要があります。

Yoochul: 非エージェント型の従来のAIは、主にその開発段階で構築された静的なデータセットにその能力を依存し、ユーザーからの明確な指示に応じて機能します。一方で、エージェントAIは自律的に動作し、複数の異なる情報源からリアルタイムでデータを収集し、時には人間の直接的な介入なしに行動を起こします。

この自律的なデータ収集プロセスは、ユーザーが意図しない機微な個人データの取得や、外部からの攻撃に対するセキュリティの脆弱性といった、新たなプライバシー懸念を引き起こす可能性があります。

そのため、私たちLGでは、個人データをシステムに直接接続･保存することを避け、厳格なガバナンス設計のもとで自律的に処理するシステムを実装するなど、プライバシー保護の技術的な強化に努めています。

規制当局の視点：AIは無法地帯ではない

Yong: エージェントAIの登場は、GDPRをはじめとする既存のプライバシー法制に、どのような課題を突きつけているのでしょうか。規制当局としてのご見解をお聞かせください。

John: エージェントAIの登場をもって、直ちに「規制の及ばない無法地帯が出現した」と考えるのは早計です。これはAI革命の突然の始まりではなく、長年にわたって続くAIのライフサイクルにおける、一つの画期的ではあるが段階的な進展に過ぎません。

私たち英国情報コミッショナー事務局(ICO)は、GDPRのような既存の強力な法的枠組みを、この新しい技術に対しても十分に適用できると考えています。

ここで最も重要な原則は、透明性の確保とユーザーによる制御（コントロール）です。ユーザーは、自分が何に対して同意し、エージェントAIにどのような広範な権限を与えようとしているのかを、明確かつ容易に理解できる必要があります。

また、多様なサービスがエコシステムとして連携する中で、「一体誰がデータ管理者としての責任を負うのか」という、責任の所在を特定することが新たな課題となりますが、これは決して克服不可能な問題ではありません。

私たち規制当局の基本的な役割は、法を適用する対象者を特定し、彼らにその義務を通知することです。エージェントAIがもたらす計り知れない機会を社会が享受しつつ、そのリスクを予見し、既存の法的枠組みを柔軟に適用していくことこそが、私たちの現実的なアプローチです。

解決への道筋：技術標準とプライバシー･バイ･デザインの徹底

Yong: リスクを適切に管理し、この革新的な技術を社会に安全に実装していくために、私たちはどのような対策や戦略を考えるべきでしょうか。

Jules: 技術的な標準化が、この問題の解決において大きな可能性を秘めていると私は考えています。現在、「モデルコンテキストプロトコル」と呼ばれる仕組みが業界内で普及し始めており、これを「AIツール向けのUSB-C」のような、普遍的な接続規格だと考える人もいます。

これは、エージェントAIが様々なオンラインサービスと円滑に接続するための標準規格であり、そのプロトコルの中に「目的限定の原則」や「データ処理の基準」といった、重要なガバナンスのルールを機械が可読な形で組み込むことができます。このような技術標準が確立されれば、プライバシー保護のルールをエコシステム全体で効率的かつ確実に実装できるようになるでしょう。

Kate: プライバシー･バイ･デザイン、つまり開発の最も初期の設計段階からプライバシー保護の思想を組み込むことが、これまで以上に極めて重要になります。

例えば、機微なデータをクラウドに送信せず、ユーザーのデバイス上でローカルに処理を行う「フェデレーテッド･ラーニング」や、個人を特定できる情報を含まずに統計的な価値を維持する「合成データ」といった、プライバシー強化技術(PETs)の積極的な活用が考えられます。

また、AIがなぜその結論に至ったのか、その推論の過程をユーザーが理解できる透明性も不可欠です。AIの判断が100%完璧である必要はありませんが、ユーザーがAIの判断理由を大筋で理解できることが、適切な監視と、技術に対する社会的な信頼の構築につながります。

John: 業界と規制当局が、開発の非常に早い段階から緊密に連携し、情報を共有することが成功の鍵です。私たちICOでは、企業が革新的な技術を規制当局の監督のもとで安全に試すことができる「サンドボックス」という制度を設けています。

Googleのような大手企業だけでなく、今後この分野に参入してくるであろう多くのスタートアップも含め、エコシステム全体で協力し、安全性が確保された環境で技術が構想されるよう、私たちも積極的に支援していく必要があります。

質疑応答と今後の展望：公共部門におけるAIエージェントの活用

会場からの質問: 公共部門、つまり政府がAIエージェントを利用する際の機会と課題について、ご意見をお聞かせください。

John: 政府サービスにおける活用の可能性は、非常に大きいと私は考えています。例えば、市民が引っ越しをした際に住所変更の手続きを一度行うだけで、関連する全ての政府機関にその情報が自動的に連携されるような、市民の負担を劇的に軽減するサービスが考えられます。

しかし、その実現には、国民からの揺るぎない信頼が不可欠です。市民の生活をより良く、より楽にするという明確な目的のもとで、最大限の透明性を確保しながら、慎重に導入を進める必要があります。

Yong: 皆様、素晴らしい議論をありがとうございました。残念ながら時間切れとなってしまいましたが、エージェントAIという新たな技術がもたらす計り知れない機会と、私たちが真摯に向き合うべき課題について、多角的な視点から深く考えることができました。パネリストの皆様に、改めて心からの感謝を申し上げます。

以上

===

◆ 関連記事
[Vol.1]GPA 2025 ソウル 開会セッション ── 基調講演
[Vol.2]AI時代のグローバル･データガバナンス 
[Vo.3]実践における合成データ──機会と課題
[Vol.4]AIが医療サービスとプライバシーに与える影響
[Vol.5]基調講演──EUにおけるAI規制とデータ保護の調和
[Vol.6]AI時代のデータ保護法と法的根拠──世界の規制当局が語る最前線
[Vol.7]データ保護機関(DPA)の新規設立と制度化
[Vol.8]基調講演──ヒューマン･フラッキングとプライバシーの未来
[Vol.9]AIは「エージェント」の時代へ──未来のプライバシーを考える←この記事
[Vol.10]AI時代のルールメイキング──規制とイノベーションの共存
[Vol.11]プライバシーは「人間性の未来」──OpenAIが描くAIとの共存
[Vol.12]越境データ移転における相互運用性の強化
[Vol.13]データ保護における救済と相互運用性──消費者の視点から
[Vol.14]AI時代の健康データ活用とプライバシー──イノベーションと社会的信頼の両立
[Vol.15]AI医療とプライバシー──健康データ「二次利用」の最前線
[Vol.16]AI医療と規制当局──いかにして「公衆の信頼」を築くか

===

＜＜前へ：基調講演──ヒューマン･フラッキングとプライバシーの未来
＞＞次へ：AI時代のルールメイキング──規制とイノベーションの共存

===

GPA 2025公式サイト：https://gpaseoul.kr/

#AIガバナンス　#AI利活用　#プライバシー　＃GPA　#プライバシーガバナンス　#データガバナンス　#AI　#プライバシー保護　#エージェントAI　#フェデレーテッド・ラーニング　#合成データ　#モデルコンテキストプロトコル　#生成AI　#透明性　#データ管理者　#GDPR　#プライバシー強化技術　#PETs　#AIエコシステム　#サンドボックス制度