【音声あり】GPA 2025 ソウル 開会セッション ── 基調講演

Keynote 1
GPA 2025 SEOUL: 47th Global Privacy Assembly 現地レポート[Vol.1]　

この記事は、GPA 2025 SEOUL: 47th Global Privacy Assemblyにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。
また、この記事は音声でもお楽しみいただけます（Notebook LMの音声概要機能を利用しています。記事の内容との齟齬や文字の読み方が正確でない部分がありますので、予めご了承ください）。

この度、株式会社プライバシーテックは、2025年9月に韓国ソウルで開催された国際会議「GPA Seoul 2025」に参加いたしました。本会議では「日常生活における人工知知能(AI)：データとプライバシーの課題」をテーマに、AI時代のデータガバナンスについて活発な議論が交わされました。弊社が聴講した主要セッションの内容を、皆様の実務に役立つ形でお届けします。

◆ この記事でわかること
===
・現代のプライバシーは、政府による「法規制」の動きと、生活の全てを監視する「AI」の台頭という、二つの脅威に晒されている。　
・OSに統合されたAIエージェントは、これまでにない深刻なプライバシー侵害を引き起こす可能性がある。
・利便性と引き換えにユーザーの同意なくプライバシーを奪う技術が一方的に導入されつつある現状と、プライバシーを守る権利について。
===

登壇者

転載：GPA SEOUL 2025
Meredith Whittaker (President, Signal Foundation)
シグナルの社長であり、シグナル財団理事会のメンバーである。彼女は産業、学術、政府の分野にわたり、テクノロジー分野で約20年の経験を持つ。彼女の研究と学術的業績は、グローバルなテクノロジー政策の形成に貢献し、テクノロジーとAIに関する公衆の認識を転換させた。これにより、現在のテクノロジービジネスモデルの中核にある監視ビジネス慣行と産業資源の集中がより明確に認識されるようになった。

はじめに：なぜプライバシーは失われつつあるのか？

おはようございます。皆様、ご来場いただき誠にありがとうございます。この場に立たせていただけることを、大変光栄に思います。これほど素晴らしい聴衆の皆様を前に、現代における最も重要なテーマについてお話しできることは、望外の喜びです。

そのテーマとは、プライバシーを守るための戦いであり、そしてAIをはじめとする多くの力がこの基本的人権を侵食しようとする時代に、私たちがどうすればプライバシーを維持できるか、ということです。

本題に入る前に、皆様の日々の活動に心から感謝を申し上げます。皆様の仕事が、決して容易なものではないと存じます。プライバシーを脅かす大きな力と、日々対峙されていることでしょう。しかし、政府の外にあってこの戦いを続ける多くの者にとって、皆様が重要な協力者であると、私は確かに認識しています。本当にありがとうございます。

さて、基調講演の冒頭として、皆様に根本的な問いを投げかけたいと思います。

私たちは、なぜこのような状況に至ってしまったのでしょうか？

各国の政府から企業、そして一般市民に至るまで、誰もがプライバシーを求めているはずの世界で、世界中のプライバシー保護に尽力する方々が、今ここに集っている。プライバシーは、今や非常に注目されるマーケティング用語ですらあります。それにもかかわらず、私たちのプライバシーは驚くほど損なわれています。これほど価値があると誰もが認めるものが、なぜ消えつつあるのでしょうか？

歴史的背景：1990年代の「暗号戦争」

この問いに答えるため、まずは過去を少しだけ振り返ってみたいと思います。言うまでもなく、プライバシーを巡る戦いは今に始まったことではありません。その歴史は、私たちに多くの教訓と戒めを与えてくれます。それらを学ぶことは、私たちが今どこにいるのか、どうしてここに至ったのか、そしてこれからどう対処すべきかを理解する助けとなるでしょう。

1990年代、暗号化技術をめぐる争いが人々の知るところとなりました。誰が暗号技術を使うべきか、政府が暗号を解読できるよう「バックドア」を設けるべきか、といった論争です。

「暗号戦争」として知られるようになったこの論争では、暗号技術を米国において軍需物資として扱い、厳しく制限し続けるべきかどうかが、約10年にわたり激しく議論されました。この議論が公になったきっかけは、ネットワークコンピューティングを商業化し、商用インターネットを創設しようという動きでした。

要するに、当時の米国政府は、二つの利益を同時に得ようとしていたのです。これは一種の「魔法の思考」であり、今日まで続いています。一方で、政府は商用インターネットがもたらす経済的利益を求め、米国のインターネット産業が世界市場を支配し、グローバルな基準を打ち立てる未来を描いていました。振り返れば、これはほぼ実現したと言えるでしょう。

その一方で、政府は監視活動を行うために、脆弱な暗号化が施された商用ネットワーク上の通信にアクセスできることを望んでいたのです。

暗号化の自由化：プライバシーの真の勝利ではなかった理由

多くの紆余曲折を経て、最終的には米国商務省、バージニア州、インターネット業界、そしてプライバシー擁護派が、暗号の弱体化を求める政府の方針に勝利しました。そして1999年、10年にわたる論争と非現実的な思考の末、暫定的な解決策として、強力な暗号化技術が自由化されました。

つまり、暗号技術はもはや米国の法律下で軍需物資として扱われなくなったのです。これにより、誰もが、どこでも、政府の許可なしに暗号技術を開発し、利用できるようになりました。これはプライバシー保護における大きな前進として、当時も今も称賛されています。

しかし、話はそう単純ではありませんでした。研究者たちの記録を精査すると、いわゆる暗号戦争がプライバシーの勝利をもたらした、という私たちの自己評価は、完全には正しくないことが明らかになります。

暗号化の自由化という勝利は、プライバシーそのものの勝利には繋がりませんでした。むしろ後から考えれば、1990年代後半の暗号化の自由化は、プライバシーにとっては純然たる損失だったと解釈するのが妥当でしょう。

なぜなら、この勝利は理論上、誰もが自由に暗号技術を開発し利用できることを意味しましたが、実際には、成長するインターネット産業がどのように形作られるかによって、最終的に暗号技術を利用するかどうか、あるいはどのように利用するかという選択権を持つのは企業でした。

プライバシーを本当に必要としている人々、つまり、それらの企業が提供するプラットフォームやサービスの、いわゆる「ユーザー」ではなかったのです。

「90年代の罪」：監視型広告ビジネスモデルの確立

この背景には、1990年代半ばにクリントン政権が、黎明期のインターネット産業の指針として定めた規制ルールがあります。このルールは、一方で企業の監視活動に一切の制限を設けませんでした。そして他方で、テクノロジー企業のビジネスモデルとして広告を明確に推奨したのです。

私はこれを「90年代の罪」と呼んでいます。なぜなら、これらの決定が、今日まで続く広範なインセンティブの構造を作り上げてしまったからです。プライバシーを保護するインセンティブは全く与えられず、それを可能にする暗号技術が存在するかどうかは問題にされませんでした。

その一方で、今日まで続くビジネスモデル、つまり監視型広告を推進するために、可能な限りのデータを収集するよう強いインセンティブが与えられたのです。「顧客を知る(KYC)」ことが、より多くのデータを収集する上で不可欠となりました。

さて、監視型広告というインターネットのビジネスモデルを通じて人々がプライバシーを失ったからといって、暗号化が不要だったわけではありません。インターネット企業は、自社の機密情報（支払い情報、株式取引、認証など）のプライバシーを保護するために、今なお暗号化を必要としています。これらの領域で暗号化がなければ、オンライン取引やインターネットの商業化は物理的に成立せず、今日この議論すら存在しなかったでしょう。

しかし、人々を広告や収益のカテゴリに分類するために利用されるデータの生成や収集、あるいはAIモデルを訓練するためのデータ収集は、企業の利益の源泉です。そのため、効率性を重視し、個人のプライバシーを名目に企業によるデータアクセスを制限することは、企業の利益に真っ向から反します。これこそが、私たちが当時直面し、そして今も直面している核心的な問題なのです。

政府の監視とスノーデン事件が明らかにしたこと

では、政府の監視欲求や特別なアクセス権についてはどうだったのでしょうか。2013年に公開されたスノーデン文書が明らかにしたように、政府、特に米国政府は、公の場で暗号化のバックドアを要求して技術的な無知をさらすよりも、静かに行動する方が得策だと気づきました。

公然と争って産業界の強力な反発を招くのではなく、彼らは、広告モデルを支え、ユーザープロファイルを作成するために産業界が収集した膨大な監視データに、静かにアクセスしたのです。つまり、政府は勝ち、産業界も勝ちました。しかし、プライバシーに関しては、一般の人々はほぼ完全に敗北したのです。

スノーデンの暴露は、巨大テックプラットフォームと米国政府の密接な関係を明らかにしただけでなく、業界が政府と距離を置くことで、プライバシー対策を推進するきっかけともなりました。例えば、ウェブトラフィックの暗号化(HTTPS)は、スノーデン以前の14%から、現在では90%以上にまで普及しました。

iOSとAndroid双方における強力なプライバシー機能（ディスク暗号化など）も、暴露後に急速に推進されました。WhatsAppが採用したエンドツーエンド暗号化も、スノーデン暴露の直後に完成しています。

しかし、これによりプライバシーを巡る古い対立が再燃し、新たな攻防の波が引き起こされました。FBIが2015年のサンバーナーディーノ銃乱射事件をめぐりAppleにバックドアの設置を迫ったことを皮切りに、その戦いは今日まで続いています。

要するに、暗号化の自由化という勝利が実際にもたらしたのは、インターネットを通じた監視型広告の成長を可能にする重要な要素、つまり商業と企業秘密を守るための強固な暗号化技術の普及でした。これにより、巨大な経済性とネットワーク効果が生まれ、米中両大国を中心に、市場の驚異的な寡占化が進んだのです。

現代の脅威：「二正面作戦」としてのプライバシー侵害

さて、話を続ける前に、はっきりさせておかなければならないことがあります。暗号化は不可欠であり、私たちはそれを守るために戦い続ける必要があります。私の主張は、暗号化を単なるプライバシー保護の手段として扱い、それを標的にしたり、暗号化そのものを目的とみなしたりしてはならない、ということです。暗号化は、真の戦いで勝利するために必要な手段に過ぎないのです。

なぜなら、私たちは1990年代の一つの戦いでの勝利を、戦争全体の勝利と誤認した戦略的過ちによって創り出された世界に生きているからです。そしてその過ちは、今もなお続いています。今や私たちは、暗号化への攻撃に加えて、データを渇望するAI産業が加わり、プライバシーが二つの方向から同時に侵食される状況に直面しているのです。

では、この現在の状況と、私の同僚が呼んだ「二正面作戦」に目を向けましょう。

一方の戦線では、より身近で過剰な立法的攻撃が繰り広げられています。それは、私たちの長年にわたる強固な技術的コンセンサスに反して、「善人」のためだけに暗号化を弱めるよう要求する、根深い執念と「魔法の思考」によるものです。そうすれば、どういうわけか「悪人」だけを締め出せると信じているのです。これは実に滑稽な話です。バックドア要求は、私たちにとって見慣れた戦いです。

そしてもう一方の戦線には、より見慣れない敵が存在します。しかし、その脅威ははるかに深刻です。この敵は、高い株価と驚異的な市場評価という衣をまとって現れる、いわゆる「AIエージェント」です。

Agentic AI（自律型AI）の名のもとに、私たちのデバイス上のオペレーティングシステムそのものが再設計されつつあり、ソフトウェアやアプリケーションレベルでのプライバシー保護能力を消滅させる恐れがあります。これは、私たちが守るべき堅牢なプライバシーを永続させるSignal社のようなサービスの存亡が危機に瀕していることを意味します。

そして、これら二つの戦線は、決して別々の問題ではありません。プライベートで、誰にも媒介されない、人間同士のコミュニケーションと思考の可能性そのものに対する、組織的な侵食が進んでいるのです。そしてそれは、私たちが「プライバシー」という言葉に込める意味を、より深く見つめ直すことを迫っています。1990年代の過ち、つまり、プライバシー侵害に依存するビジネスモデルを許容し、プライバシーそのものを軽視した過ちを繰り返さないよう、細心の注意を払わねばなりません。

現代の脅威：法規制とAIによるプライバシー侵害

では、歴史的背景を踏まえつつ、より身近な攻撃から始め、現在直面している状況を振り返ってみましょう。その出発点として最適なのが、英国の「調査権限法」です。この法律は、国家に対し、企業に安全でないシステムの構築を強制する権限、セキュリティを損なう形でシステムの再設計を強いる権限、そして何より、こうした強制を受けた企業が政府の命令内容を秘密に保つことを義務付ける権限を与えました。

理論上、シグナル社は英国政府から「暗号化を弱体化させよ。さもなければ全世界の軍隊、政府、そしてそれに依存する人権活動家たち全員を危険に晒す」という命令を受ける可能性があるのです。そしてこの法律の下では、私たちはこのことについて話すことさえ禁じられます。これは信じがたい措置であり、当然、我々が従うことはありません。

また、提案されている「チャット規制法案」のようなものも見てみましょう。これは、技術的なコンセンサスによって毎年一時的に葬り去られてきた「ゾンビ法案」です。私たちは、「善意の者だけが利用できる」バックドアを実装することは不可能だと、何度も何度も、様々な形で説明し続けているのです。しかし、私たちが葬り去ろうとすればするほど、それは死から蘇り続けるのです。

先に進む前に、いわゆるクライアントサイド•スキャンのような、法案で提案されている解決策について、明確にしておきたいと思います。これらはしばしば妥協案として提示されますが、そうではありません。むしろ大量監視のための「トロイの木馬」に等しいものです。

政府が義務付けるクライアントサイド•スキャンは、個人の端末のセキュリティモデルを根本から覆します。最もプライベートなコンピュータであるあなた自身の端末を、暗号化される前のメッセージや写真、思考までスキャンする「密告者」へと変えてしまうのです。

そして、それが暗号化の前か後か、あるいはその最中かどうかは関係ない、という点は明確にしておく必要があります。暗号化されたメッセージをスキャンし、リモートサーバーに送信したり平文で処理したりすることは、暗号化におけるバックドアそのものであり、暗号化が提供する保護を完全に損ないます。

実際、技術者や暗号研究者の間では、この見解は長年にわたり一致しています。悪意のあるコンテンツを検出するために全員のメッセージをスキャンするシステムは、犯罪者や抑圧的な国家によって悪用され得る、そして実際に悪用されるであろうシステム的な脆弱性を生み出し、結果として私たち全員の安全を脅かすのです。

調査権限法からチャット規制法案に至るまで、これらの動きは「魔法の思考」と「権威主義的衝動」という危険な組み合わせに支えられています。彼らは「テロリスト、児童虐待者、麻薬ディーラー」といった恐怖の亡霊を呼び出し、私たちの安全を守るためのあらゆる努力を無力化する権限を正当化しようとするのです。1990年代後半と同様に、これらの提案は技術的な幻想を要求しています。それは結局のところ、数学とコンピュータ科学の法則に反する行為を正当化しようとするものに他なりません。

AIエージェントがもたらす問題：プライバシー境界の破壊

はっきりさせておきたいのは、1990年代に高度な暗号化技術で優位に立ったからといって、今やめるわけにはいかないということです。暗号化は、デジタル空間でプライバシーを確保するために根本的に不可欠な技術です。ですから、この第一の戦線での戦いは続けなければなりません。

しかし、そこで止まってはならないのです。暗号化による保護は基盤ではありますが、それだけでは十分ではありません。今日私たちが直面する脅威は、1990年代に完全なプライバシーを勝ち取れなかったことの当然の帰結です。

大量のデータ収集を基盤とし、プライバシー侵害の上に築かれた多くのビジネスモデルが、その地位を確立し、拡大を続けているのです。そしてそのビジネスモデルは今やAIによって強化されており、ここに最新の脅威が生まれています。AIは、膨大な量のトレーニングデータと推論のためのデータを必要とし、推論を通じてさらなるデータを生成します。

これまで数十年にわたり、私たちのデバイス上のオペレーティングシステム(OS)は、ほぼ中立的な審判役でした。アプリケーション間の境界を尊重し、デバイスを所有•管理するユーザーのニーズに応えるツールであることを、私たちは前提としてきました。ですから、あなたがシグナルで暗号化されたメッセージを送れば、OSはその内容を把握できません。それがシグナルの設計思想であり、OSは開発者としての私たちの意向を尊重すべきだからです。

しかし、状況は変わりつつあります。AIエージェントが私たちの生活のあらゆることを代行するという名のもとに、私たちは根本的な変革を目の当たりにしています。もはやOSは中立的な基盤ではなくなりました。

主要なOSベンダーであるApple、Google、Microsoftは、OS自体にAIエージェントを統合するための動きを急ピッチで進めています。これらのエージェントが、あなたに代わってメッセージを書き、レストランを予約し、あなたの一日を調整してくれる、という約束が掲げられています。

AIエージェントがもたらす問題：プライバシー境界の破壊

そして、これを実現するために、OSはこれらのAIエージェントに、システムのすべてにアクセスできる包括的な権限（Unixシステムにおけるルート権限に相当）を与えようとしています。あなたのカレンダーから、メール、クレジットカード情報、さらにはシグナルの内容に至るまで。

この構想では、AIエージェントはあなたが機密情報にアクセスするあらゆる場所に存在し、あなたの許可なくそれに基づいて行動します。これは、アプリケーションが持つプライバシーの境界線を破壊する行為です。OSは、あらゆるアプリケーションの内容を覗き見、記録し、それらのコンテンツをクラウドサーバーに送信して処理できるようになるのです。

このようなアーキテクチャは構造的に不安定であり、重大なプライバシーとセキュリティの脆弱性を生み出すことが実証されています。具体的な例として、最新のWindows 11で提供されたMicrosoftの「リコール(Recall)機能」を見れば十分です。

これは「コンピュータの便利な写真記憶」として宣伝されています。あなたがデバイス上で行ったほぼすべてのこと（閲覧したウェブサイト、書いたメール、開いた文書など）をOSが記録し、後から検索できるようにするものです。これを実現するために、OSは数秒ごとにデスクトップのスクリーンショットを撮影し、そこからテキストを抽出し、ローカルのデータベースに保存します。

こうして、悪意ある攻撃者にとって非常に魅力的な、集中的で価値の高い標的が生まれるのです。もしこのデータベースが破られれば、虐待的な元パートナーや抑圧的な国家が、喉から手が出るほど欲しがる情報が手に入ってしまいます。実際、シグナル社は、自社のメッセージがこのスクリーンショット機能の対象にならないよう、防御策を講じることを余儀なくされました。

リコール機能は現在の最も極端な事例かもしれませんが、唯一ではありません。最近のセキュリティ調査によれば、Apple Intelligenceの一環として、iMessageのデータがAppleのサーバーに送信されていることが明らかになりました。これはユーザーには全く分からない形で、エンドツーエンドの暗号化を根本的に破るものです。

同意なき未来への懸念

この変化で最も冷笑的な点は、私たちに許可が求められていないことです。私たちは「魔法のようなAIの未来」を売り込まれていますが、その魔法の代償が何であるかは明らかにされていません。

無料の昼食など存在しないのです。これは魔法のランプではありません。これはプライバシーの侵害です。これは、利便性という名目で、私たちが求めたこともない機能と引き換えに、自分たちのデバイスとOSの支配権を数社の巨大企業に明け渡す行為なのです。ユーザーにとって、OSレベルでの監視を受け入れるか、所有するデバイスの機能を放棄するかの選択を迫られる時、同意は幻想に過ぎなくなります。

私たちが目撃しているのは、アプリケーション層におけるプライバシーの可能性そのものを脅かす、一方的な押し付けです。

行動への呼びかけ：私たちが今、すべきこと

では、どう対処すべきでしょうか？具体的な行動を起こす時が来ました。1990年代に未解決だった課題が、今も残されていることを認識すべき時です。私たちは、包括的で真のプライバシーを要求しなければなりません。それは、一部の人々を置き去りにせず、暗号化が企業によって実装されるかどうかに左右されないものでなければなりません。

AIエージェントの分野では、これは私たちが共同で要求しなければならないことを意味します。OSに統合されるAIエージェントの侵入を、アプリケーションごとに拒否する方法を開発すること。AIエージェントがアクセス•処理•送信できる情報を、アプリごとに具体的に制御する仕組みが必要です。

そして、シグナル社が代表するように、人々が私たちに寄せる深い信頼に応えるため、これらの制御が約束通りに機能することを保証できる基盤を構築しなければなりません。また、オープンソース運動の教訓を活かし、OSベンダーに対し、彼らがアクセス•収集•利用するデータの内容について、徹底的な透明性を求める必要があります。

継続的な暗号化の防御に加え、市民社会や私たちのような技術専門家、そして重要なのは皆様のような公的機関が一体となって、政治家たちに伝えなければなりません。彼らの想像上の思考は、技術立法において何の役にも立たないこと、そしてプライバシーは、取引の材料にされるべき権利ではない、ということを。

結び

プライバシーの世界は、私たち全員が動く世界です。そしてそれは、現在AIを基盤に構築されているこれらのオペレーティングシステムさえも包含します。そこには革新もなければ、現状への挑戦もありません。プライバシーが完全に守られていなければ、保護された知的財産や営業秘密など存在しえないのです。

そして、そのすべてのために戦い続ける責任は、この場にいる私たち、そしてその先にいる人々の双肩にかかっています。短期的な収益や金融トレンド、政治的な都合が、尊いプライバシーという基本的人権を軽視して築かれるのであれば、それは決して達成する価値のあるものではない。そのことを、私たちは明確に示さなければなりません。

ご清聴、ありがとうございました。

以上

===

◆ 関連記事
[Vol.1]GPA 2025 ソウル 開会セッション ── 基調講演←この記事
[Vol.2]AI時代のグローバル･データガバナンス 
[Vo.3]実践における合成データ──機会と課題
[Vol.4]AIが医療サービスとプライバシーに与える影響
[Vol.5]基調講演──EUにおけるAI規制とデータ保護の調和
[Vol.6]AI時代のデータ保護法と法的根拠──世界の規制当局が語る最前線
[Vol.7]データ保護機関(DPA)の新規設立と制度化
[Vol.8]基調講演──ヒューマン･フラッキングとプライバシーの未来
[Vol.9]AIは「エージェント」の時代へ──未来のプライバシーを考える
[Vol.10]AI時代のルールメイキング──規制とイノベーションの共存
[Vol.11]プライバシーは「人間性の未来」──OpenAIが描くAIとの共存
[Vol.12]越境データ移転における相互運用性の強化
[Vol.13]データ保護における救済と相互運用性──消費者の視点から
[Vol.14]AI時代の健康データ活用とプライバシー──イノベーションと社会的信頼の両立
[Vol.15]AI医療とプライバシー──健康データ「二次利用」の最前線
[Vol.16]AI医療と規制当局──いかにして「公衆の信頼」を築くか

===

＞＞次へ：AI時代のグローバル･データガバナンス 

===

GPA 2025公式サイト：https://gpaseoul.kr/

#AIガバナンス　#AI利活用　#プライバシー　＃GPA　#プライバシーガバナンス　#データガバナンス　#AI　#プライバシー保護　#暗号戦争　#AI開発　#AIエージェント　#バックドア　#監視型広告　#調査権限法　#チャット規制法案　#AIとプライバシーの両立　#スノーデン事件　#AIリスク管理