プライバシーは「人間性の未来」──OpenAIが描くAIとの共存

Keynote 5
GPA 2025 SEOUL: 47th Global Privacy Assembly 現地レポート[Vol.11]　

この記事は、GPA 2025 SEOUL: 47th Global Privacy Assemblyにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

この度、株式会社プライバシーテックは、2025年9月に韓国ソウルで開催された国際会議「GPA Seoul 2025」に参加いたしました。本会議では「日常生活における人工知知能(AI)：データとプライバシーの課題」をテーマに、AI時代のデータガバナンスについて活発な議論が交わされました。弊社が聴講した主要セッションの内容を、皆様の実務に役立つ形でお届けします。

◆ この記事でわかること
===
・OpenAIは、ユーザーにデータ制御権を与え、プライバシー保護ツールをオープンソース化することで、社会との信頼構築を進めている。　
・AIはプライバシーを脅かすだけでなく、プライバシーポリシーの解説や子どもの保護など、プライバシーを積極的に強化する力となり得る。
・AIの未来は「エージェント」や、AIとの対話を保護する「AI特権」といった新概念にかかっており、その基盤にはプライバシーの尊重が不可欠である。
===

登壇者

転載：GPA SEOUL 2025

Jason Kwon (CSO, Open AI)
Open AIの最高戦略責任者(CSO)であり、政策、法務、社会影響調査チームを統括している。以前は、Y Combinator Continuityの最高顧問、Khosla Venturesの副最高顧問、Goodwinの準弁護士を務めていた。弁護士として活動する前は、ソフトウェアエンジニアおよびプロダクトマネージャーとして活躍。カリフォルニア大学バークレー校ロースクールで法務博士号、ジョージタウン大学で文学士号を取得している。

はじめに

皆様、こんにちは。GPAが、プライバシーとデータ保護の役割を形作るための議論の場を継続的に提供されていることを、大変光栄に思います。

この会議は長年にわたり並外れた成果を上げてこられました。ここで練り上げられた決議は、皆様の決意と努力によって実現し、その影響は規制当局の実務を形作り、企業の行動を導き、ひいては人々の生活を守ることに繋がっています。

OpenAIの使命は、汎用人工知能(AGI)が全人類に利益をもたらすようにすることです。そして、その真の成果は、この会議のような場での議論を通じてのみ達成されると信じています。

プライバシー保護への具体的な取り組み

私たちはChatGPTを構築･公開し、世界中の人々の日常にAIがもたらす力と、それに伴う責任の大きさを目の当たりにしました。そのリリース以来、私たちはグローバルなプライバシーに関する議論に貢献してきました。それは、開発者であれ、企業であれ、あるいは単にChatGPTを利用する個人であれ、人々に自らのデータを制御する力を与えることです。

私たちは、ユーザーが会話の履歴を残さずにAIと対話できる機能を導入し、データ管理機能を通じて、自身のデータをモデルのトレーニングに提供するかどうかを選択できるようにしました。また、開発者や企業向けのサービスでは、彼らのデータで私たちのモデルをトレーニングしないという明確なルールを定めています。さらに、ウェブサイトの運営者が、自身のコンテンツをAIの学習にどう利用させるかを制御できる手段を初めて提供し、新たな標準を切り開きました。

この過程で、私たちは個人データの利用に関して、厳しい教訓も得てきました。今後数年間で、私たちは全てのことを正しく進めていく必要があります。そのためには、皆様の声に耳を傾け、学び続けなければなりません。私たちはこれまで、欧州からアジア、南米に至るまで世界各国と関わり、規制当局とも連携し、データ利用に関する方針を明確化し、私たちのツールに対する期待を聞き取り、フィードバックを共有し、協働してきました。

私たちは、データ保護とガバナンスが、単にリスクを浮き彫りにするだけでなく、世界中の企業に指針と前進の道筋を示すことで、AIが社会に与える意味そのものを形作る力を持っていることを理解するに至りました。企業がAIを運用するには、法的な確実性が必要です。これらの取り組みは、単なるコンプライアンス（法令遵守）ではなく、社会との大きな信頼を築くためのものです。

では、私たちは共に何を築けるでしょうか。AIは安全で、人々を尊重する存在であり得ます。さらに重要なのは、AIが私たちの安全を守り、プライバシー保護を強化する力となり得るということです。

プライバシーフィルターのオープンソース化

その具体的な取り組みとして、本日、私たちが社内で開発･使用している「プライバシーフィルター」をオープンソース化することを発表します。このフィルターは、モデルのトレーニング過程で扱われる個人データを削減するために開発されたもので、最新のAI技術により、既存の市場のソリューションを上回る性能を実現しています。これを公開することで、世界中の開発者の皆様がこれを活用し、世界のプライバシー基準を共に高めていくことを期待しています。

これは、私たちがこれまでオープンソースの安全基盤を構築し、小規模な組織や市民団体でも、責任あるAI開発が可能になるよう支援してきた取り組みの延長線上にあります。

プライバシー保護を強化するツールの開発

私たちは、個人にデータ管理の権限を与え、アプリケーションにプライバシー保護を組み込むためのツール構築にも取り組んでいます。その願いは、これが社会全体の権利を強化するイノベーションの道となることです。

例えば、プライバシーポリシーの理解という難題を考えてみてください。法律用語の羅列をただ眺める代わりに、人々がポリシーと人間らしい言葉で対話し、オンライン上で自身の権利を行使する方法を素早く学べるようにする。私たちは、AIを活用してこのような取り組みを進めています。

また、AIが子どもたちを守るための有益なツールとなることも目指しています。保護者や教育者が、子どもたちが見るコンテンツを適切に制限したり、AIとの対話の中で子どもが苦痛や危害の兆候を示した際に、通知を受け取ったりできる仕組みを開発中です。

AIの未来：エージェント、特権、そして公共サービス

最高戦略責任者として、私はAIの未来について考える時間を大切にしています。ここでは三つの重要な点についてお話しします。

第一に「エージェント」です。AIは、タスクを横断的に処理し、推論し、学習する能力を備えたエージェントへと進化しています。私たちが描くAIエージェントの理想像は、人間の主体性を強化する存在です。人々に、より多くの時間と能力、そして自由を与え、人間らしい本質的な活動に集中できるようにする。しかし、その実現には、人々がAIエージェントを信頼できなければなりません。その信頼の基盤となるのが、プライバシー保護です。

第二に「AIにおける特権(AI Privilege)」という概念です。現代社会において、医師や弁護士との特定の会話は、法的に守秘義務の対象として保護されています。人々が第三者の耳を気にせず本音を語れる環境が必要だからです。今後、多くの人々がAIと個人的な対話を持ち、意思決定の相談や苦悩の共有を行うようになるでしょう。私たちは、AIとの対話が不当な監視や訴訟の対象から守られるよう、AI時代に対応した新たな法規制と基準を社会と共に整備していく必要があります。

第三に「公共サービスへの貢献」です。AIは経済成長だけでなく、医療、科学研究といった社会の最も重要なサービス分野に変革をもたらす可能性を秘めています。私たちはすでに、英国政府の行政サービス訓練や、米国の教育現場へのAI導入、そして韓国のソウル大学とのAI人材育成など、世界中の公的機関との連携を始めています。私たちの願いは、より多くの規制当局や関連機関もこの技術を活用し、業務を効率化させ、市民への貢献を実現することです。

結論：プライバシーは人間性の未来そのもの

プライバシーは、単なる技術的な課題や規制遵守として語られることがありますが、その本質は、自律性、個人の尊重、そして社会全体の進歩によって支えられる、人間性の未来そのものであると、私たちは考えています。

かつて権威主義の中から民主主義を勝ち取ったこのソウルの地で、私たちは改めて、その理念を尊重する技術を構築する必要性を感じています。私たちは、単独ではこれを成し遂げることはできません。だからこそ、このGPAのような、規制当局、市民社会、学界、そして産業界が一堂に会する場を何よりも重視するのです。

AIが私たちの生活の一部となる中で、私たちの責任と機会は明確です。それは、人々の力を引き出し、権利を守り、社会を強化する形で、AIを実現することです。

ご清聴ありがとうございました。

以上

===

◆ 関連記事
[Vol.1]GPA 2025 ソウル 開会セッション ── 基調講演
[Vol.2]AI時代のグローバル･データガバナンス 
[Vo.3]実践における合成データ──機会と課題
[Vol.4]AIが医療サービスとプライバシーに与える影響
[Vol.5]基調講演──EUにおけるAI規制とデータ保護の調和
[Vol.6]AI時代のデータ保護法と法的根拠──世界の規制当局が語る最前線
[Vol.7]データ保護機関(DPA)の新規設立と制度化
[Vol.8]基調講演──ヒューマン･フラッキングとプライバシーの未来
[Vol.9]AIは「エージェント」の時代へ──未来のプライバシーを考える
[Vol.10]AI時代のルールメイキング──規制とイノベーションの共存
[Vol.11]プライバシーは「人間性の未来」──OpenAIが描くAIとの共存←この記事
[Vol.12]越境データ移転における相互運用性の強化
[Vol.13]データ保護における救済と相互運用性──消費者の視点から
[Vol.14]AI時代の健康データ活用とプライバシー──イノベーションと社会的信頼の両立
[Vol.15]AI医療とプライバシー──健康データ「二次利用」の最前線
[Vol.16]AI医療と規制当局──いかにして「公衆の信頼」を築くか

===

＜＜前へ：AI時代のルールメイキング──規制とイノベーションの共存
＞＞次へ：越境データ移転における相互運用性の強化

===

GPA 2025公式サイト：https://gpaseoul.kr/

#AIガバナンス　#AI利活用　#プライバシー　＃GPA　#プライバシーガバナンス　#データガバナンス　#AI　#プライバシー保護　#OpenAI　#汎用人工知能 (AGI)　#ChatGPT　#オープンソース　#エージェント　#AIにおける特権　#コンプライアンス　#データ保護　#訓練データ　#子どもの保護　#自律性　#法的確実性