AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス

Closing General Session
IAPP Asia 2025: Privacy Forum + AI Governance Global 現地レポート[Vol.8]　

この記事は、IAPP Asia 2025: Privacy Forum + AI Governance Globalにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

転載：IAPP Global Privacy Summit 2025

本セッションでは、カメラや自動車といった過去の技術革新の歴史を紐解き、「信頼と安全は技術革新を遅らせるのではなく、むしろ加速させる」という重要な教訓が提示されました。AIが概念実証から実用化に至らない「死の谷」の課題にも触れ、今後のAIガバナンスはテストと保証を開発プロセスに統合した、より実践的なアプローチが必要であると語られました。

歴史的な視点と未来への展望を交えながら、信頼されるAIエコシステムをいかに構築すべきか、示唆に富んだ議論が展開されました。

◆ この記事でわかること
===
・カメラや自動車といった過去の技術革新の歴史から、信頼と安全を技術に組み込むことが革新を加速させ、社会に受け入れられるために不可欠である。
・AIは概念実証から実用化に至る「死の谷」にあり、その価値を最大限に引き出すには、関係者間で「十分に良いAIとは何か」という合意形成が必要である。
・これからのAIガバナンスは、リスクとリワードのバランスを取り、テストと保証を開発プロセスに統合した連続的な活動として捉えるべきである。
===

登壇者

Mandy Zhu, Data Protection Officer and Senior Counsel, Mastercard
サイバーセキュリティ、プライバシー、データ保護の分野で約15年の経験を持つ、経験豊富な法律専門家。北京市海淀区人民検察院でキャリアをスタートさせ、その後、ファーウェイ・テクノロジーズで上級法律顧問を務め、ドバイにも1年間駐在した。これらの分野への情熱が、SAP Greater China法務チーム、そしてAnt Groupのプライバシーオフィスでデータプライバシースペシャリストとして活躍するきっかけとなった。
現在、Mastercardの中国データ保護責任者として、アジア太平洋地域における事業運営を支援している。また、IAPPの会員であり、情報プライバシー(FIP)フェローでもあり、CIPP/A、CIPP/C、CIPP/CN、CIPP/E、CIPP/US、CIPM、CIPT、AIGPなど、多数の認定資格を保有している。さらに、2007年からは中国弁護士資格も取得している。

J. Trevor Hughes, CIPP, President and CEO, IAPP
プライバシー、AIガバナンス、デジタル責任に関する専門家の拠点であるIAPPの会長兼CEO。150カ国以上、8万人以上の会員を擁するIAPPは、データ、テクノロジー、そして人間性が交差する領域を管理する専門家への高まるニーズに応えるため、トレーニング、認定資格、出版物、調査、イベント、そしてネットワーキングの機会を提供している。
カナダ出身で、Network Advertising InitiativeおよびEmail Sender and Provider Coalitionのエグゼクティブディレクターを務めた。
世界的に著名なデジタル政策専門家として広く知られている。SXSW、RSA Conference、TEDx、Global Privacy Assemblyなど、多くのイベントで講演を行う人気講演者。最近の講演活動には、ICA Live: Africa、世界銀行グループ･データプライバシー･デー、FIFAグローバルコンプライアンスサミット、モバイル･ワールド･コングレス閣僚プログラムなどがある。ハーバード大学、MIT、ロンドン･スクール･オブ･エコノミクス、ダブリン大学トリニティ･カレッジ、テキサス大学オースティン校、ノースイースタン大学ロースクールなど、世界中で幅広く講演を行ってきた。
ニューヨーク･タイムズ、TechCrunch、Wiredなどのメディアに寄稿し、プライバシー、監視、プライバシーに配慮した技術に関する問題について、米国議会、米国連邦取引委員会、英国議会などで証言を行ってきた。
マサチューセッツ大学アマースト校で学士号を取得し、現在、メイン大学ロースクールで法務博士号を取得している。メイン大学ロースクールでは、同校の非常勤講師を務めている。

Barbara Li, Partner, Reed Smith
北京のReed Smith法律事務所のテクノロジー／データ･パートナー。以前、北京を拠点とするPwC中国のパートナーとして、企業法務および規制関連業務を専門としていた。PwC入社以前は、複数の大手国際法律事務所および中国法律事務所の北京オフィスとロンドンオフィスで25年以上勤務し、中国におけるTMTおよび企業法務を率いた。それ以前は、Ericsson（中国）有限公司でシニア･インハウス･カウンセルを務めていた。
多くの国際企業、中国企業、金融機関、テクノロジー企業、PEファンドに対し、データおよびサイバーセキュリティのコンプライアンス遵守、デジタルトランスフォーメーション、AI、ビッグデータ、クラウド、ブロックチェーンといった新興技術の導入に伴うリスク管理について助言を提供してきた。また、複雑な企業法務および商務関連事項、クロスボーダーM&A、合弁事業、事業再編、大規模プロジェクトの開発、大規模取引の起草および交渉支援など、幅広い分野におけるアドバイスを提供している。
彼女は中国市場における規制専門家として広く認められており、Chambers、Legal 500、Asian Legal Business、IFLR1000、WhichLawyerなど、様々な法律情報誌において、コーポレート、M&A、TMT、フィンテックの分野でトップクラスの弁護士として評価されている。Asian Legal Businessが選ぶ2020年China Top TMT Lawyer Awardを受賞。業界と緊密に連携し、在中国EU商工会議所のサイバーセキュリティ･サブワーキンググループの副議長を数年間務めた。
イングランドおよびウェールズで弁護士資格を取得し、中国弁護士資格を保有。また、欧州認定情報プライバシー専門家(CIPP/E)の資格も取得している。

April Chin, Co-CEO, Resaro
ミッションクリティカルな AI システムの独立したサードパーティによるテストを専門とする AI 保証会社 Resaroの共同CEOを務めている。
彼女のResponsible AIへの取り組みは2019年にBasisAIで始まり、企業間のAIソリューションにおける導入によるガバナンスアプローチの採用を推進する上で中心的な役割を果たした。また、AIガバナンスフレームワークをビジネス チームとテクノロジー チームの実行可能なプロセスに運用するための学際的な取り組みも主導してきた。
元シンガポール行政庁職員としての10年以上の経験を活かし、政府高官や経営幹部と緊密に連携して、ガバナンスの原則に基づいた将来に備えた政策を策定してきた。この分野の思想的リーダーとして、彼女はリー･クアンユー公共政策大学院のフューチャーズ･フェローとして、またチャンドラー･ガバナンス研究所のアドバイザー兼専門家としての専門知識を共有している。

Irish Salandanan-Almeida, Chief Privacy Officer and Vice President for Governance, Risk, and Compliance, Globe Group
Globe Telecomの情報セキュリティおよびデータプライバシーグループおよび人工知能グループのガバナンス、リスク、コンプライアンス担当最高プライバシー責任者および副社長。
彼女は IAPPの認定情報プライバシーマネージャーであり、2022年にロンドン･スクール･オブ･エコノミクスのデータ: 法律、政策、規制コースを修了した。彼女は 2021年から 2022年までIAPPのKnowledgeNetフィリピン支部委員長を務め、現在はIAPPの女性主導プライバシー諮問委員会のメンバーを務めている。
アテネオ･デ･マニラ大学で法務管理の学士号を取得し、フィリピン大学法学部で法学博士号を取得。フィリピンの法律事務所で専門家としてのキャリアをスタートし、民事、商事、刑事訴訟を専門としていた後、公共政策の分野に移った。USAIDの貿易関連開発支援プロジェクトに参加し、フィリピン競争法の可決に向けて業界の先駆者たちと協力した。その後、彼女はUberとGrabに入社し、配車法制定を提唱した。
3人の幼い子供の母親として、子供のプライバシーとオンラインの安全は彼女の個人的な主張の1つである。デジタルリテラシーを促進し、オンラインでの児童の性的虐待や搾取、ネットいじめ、詐欺的なスパムや詐欺行為、その他今日のデジタル空間にはびこる違法な計画を防止するためのGlobeのプログラムに参加している。

開会挨拶とIAPPコミュニティの価値

Mandy: 私たちは、専門的なリソースとしてIAPPコミュニティを持てることを大変幸運に思っています。本日の講演のために、皆様を再びこのステージにお迎えできることを嬉しく思います。

昨日、私たちは11の深いパネルセッションを開催し、幅広いトピックをカバーしました。AIガバナンス、サイバーリスク、インシデント対応、データ保持、子供のデータ保護について議論し、アジアのプライバシーカウンシルが日常的にどのような業務を行っているかについての洞察を共有しました。

このようなイベントに集い、挑戦し、繋がり、学び、成長することは非常に重要です。最初の講演者を紹介する前に、改めて会場スポンサーであるPDPC、そしてイベントスポンサーの皆様のご支援に感謝申し上げます。

IAPPは組織として、政策的に中立です。私たちは、講演のステージで幅広い声や視点を披露することが私たちの責任であると考えています。皆様に楽しんでいただければ幸いです。本日の講演では、J. Trevorがデータ、テクノロジー、そして人間の利益が交差する点におけるガバナンス構造を再考する必要性について語ります。

彼は、プライバシー、AIガバナンス、デジタル責任のためのプログラムであるIAPPの会長兼CEOです。150カ国以上に85,000人以上のメンバーを擁するIAPPは、トレーニング、認定、出版物、研究、イベント、ネットワーキングの機会を提供しています。データ、テクノロジー、そして人間性の交差点を管理する専門家の増大するニーズに応えるため、彼のリーダーシップは、単なる専門職ではなく、世界的なムーブメントを形成してきました。

実際に、彼は世界の舞台で主要なデジタル政策の専門家として広く認められています。引く手あまたの講演者であり、ハーバード大学、MIT、ロンドン･スクール･オブ･エコノミクス、トリニティ･カレッジ･ダブリン、テキサス大学オースティン校、ノースイースタン大学ロースクールなどで幅広く講演を行ってきました。ニューヨーク･タイムズ、TechCrunch、Wiredなどのメディアにも寄稿し、プライバシー、監視、プライバシーに配慮した技術の問題について、米国議会、米国連邦取引委員会、英国議会で証言しています。

それでは、IAPP会長兼CEO、J. Trevor Hughesをお迎えください。

技術革新の歴史に学ぶ「信頼」の重要性

J. Trevor: おはようございます。皆様にお会いできて大変嬉しく思います。アジア･プライバシー･フォーラムと、今回が初開催となるAIGGアジアのために、再びシンガポールに戻ってこられたことを喜ばしく思います。IAPPはPDPCとの関係を誇りに思っており、この一週間を通じて共に築き上げてきた素晴らしいパートナーシップに対し、改めて感謝の意を表したいと思います。

本日は、私たちが今いるこの瞬間についてお話ししますが、現在起こっていることには一切触れません。このプレゼンテーションを進める中で、歴史との非常に強いつながりがあり、その歴史から、私たちが今いるこの瞬間について非常に重要な教訓を学べるかもしれない、ということをご理解いただければ幸いです。

これから「5年間」の歴史を皆さんと共有し、歴史上の4人の人物と3つの技術革新を紹介します。その5年間は、それを経験した人々にとって非常に印象的なものでした。その歴史の期間は1886年から1891年、130年以上も前のことです。歴史上の4人の人物とは、Ike Hoover、Louis Brandeis、Samuel Warren、そしてBertha Benzです。

写真技術の進化と「プライバシーの権利」の誕生

まず、フレキシブルフィルム、つまり瞬間写真です。1888年にGeorge Eastmanがフレキシブルフィルムを発明して初めて、カメラは小型化し、持ち運びが容易になりました。

そして、それによって社会に大きな警鐘を鳴らす出来事が起こりました。「コダック･フィーンド」と呼ばれる人々が現れ、他人がプライベートだと感じている瞬間を密かに撮影し始めたのです。この新しい技術はプライバシーを侵害するものでした。

この技術は、世界中の社会で人々が理解していたプライバシーの文脈を変えました。マサチューセッツ州ボストンに、ハーバード大学を卒業したばかりのLouis BrandeisとSamuel Warrenがいました。彼らは法学雑誌に「プライバシーの権利」という論文を発表し、「技術は必ず変化し、革新は必ず起こる。技術が変われば、世界も変わることを予期しなければならない。そして、法律もまたそうでなければならない」と述べました。

ここでの教訓は、技術革新は社会の規範に挑戦するということ、そして法律は常に遅れて対応するということです。

電灯の普及と「信頼の組み込み」

次に、電灯です。都市の景観は頭上の電線で混雑し始め、絶縁が不十分だったため多くの感電死事故が発生し、社会に大きな不安が広がりました。

新聞は、この危険な技術に対して業界も議会も十分な対策を講じていないと非難しました。1891年にはホワイトハウスに初めて電灯が設置されましたが、当時の大統領Benjamin Harrison夫妻は感電を恐れてスイッチに触れることを拒否しました。

今日、私たちはスイッチと電灯の間に、建築基準、電気工事規定、製品安全基準、専門家のライセンス制度など、幾重にもわたる管理、法律、基準が組み込まれているため、それを意識する必要は全くありません。ここでの教訓は、信頼が組み込まれていなければ、私たちはそれを使わない、ということです。

自動車の発明と「安全が革新を加速させる」教訓

そして3つ目の技術は自動車です。Karl Benzが1886年に発表したこの乗り物には、ブレーキがありませんでした。ここで物語のヒロイン、Bertha Benzが登場します。彼女は1888年、車で100キロ離れた母親の家を訪ねる冒険の道中、丘を下る際に車の制動が効かないことに気づき、靴屋に頼んで世界初のブレーキパッドを発明したのです。

ブレーキが車を遅くさせると思うかもしれません。しかし実際には、ブレーキが発明されるまで、車は安全に速く走ることができませんでした。Bertha Benzがこの安全装置を革新したことで、車の速度性能は向上し、実用性が増したのです。ここでの最も強力なメッセージは、「信頼と安全は革新をより速く進める」ということです。

さて、これを現代に結びつけましょう。GoogleのCEOであるSundar Pichaiは、「AIは人類がこれまで取り組んできた中で最も重要なものであり、電気よりも重要だ」と述べています。私たちが学ぶべき3つの教訓があります。第一に、革新は規範に挑戦し、法律は常に遅れます。第二に、信頼が組み込まれていなければ、社会は新しい技術を受け入れません。そして最後に、信頼と安全は物事を遅らせるのではなく、革新を前進させるのです。

Barbara Li氏による挨拶と次スピーカー（April Chin氏）の紹介

改めまして、私はBarbara Liと申します。中国を拠点とする企業で、刺激的なAI、プライバシー、そしてサイバーセキュリティの問題に取り組んでおります。こうした案件の多くは非常にエキサイティングですが、もちろん、時には恐ろしさを感じるような場面もあります。

さて、本日は、次のゲストスピーカーであるApril Chin氏をご紹介できることを大変光栄に思います。彼女は、ミッションクリティカルなAIシステムに対するテストや、独立した第三者検証サービスの提供に特化した、非常に専門性の高いAIテスト企業の共同CEOを務めていらっしゃいます。

10年以上にわたる経験をお持ちで、以前はシンガポールの行政官として、政府高官や企業の経営幹部とも連携されてきました。また、AI分野における世界的なリーダーとしても認められています。April氏は、リー･クアンユー公共政策大学院のフューチャーズ･フェローや、チャンドラー･ガバナンス研究所の専門アドバイザーも務められました。

それでは、前置きはこのくらいにして、April氏にご登壇いただきましょう。皆様、盛大な拍手でお迎えください。

AI実用化を阻む「死の谷」

April: 皆さん、おはようございます。ここにお招きいただき光栄です。信頼できるAIを実現するためには、ガバナンスの世界と実践の世界を橋渡しする必要があります。

AIは至る所にありますが、ある意味ではどこにも行き着いていません。なぜなら、その価値が十分に引き出されていないからです。多くのAIパイロットプロジェクトが、PoC（概念実証）から実用化への「死の谷」を越えられずにいます。技術がビジネスプロセスやデータ品質、ステークホルダーのニーズと合致していないためです。そして、「十分に良いAIとは何か」について、ガバナンス、技術、ビジネスの各ステークホルダー間で見解の大きな相違があります。

AIを取り巻く3つのトレンド

ここで、AIのあり方を根本的に変えつつある3つのトレンドを紹介します。

第一に、社会的、物質的、デジタル的な境界線の曖昧化です。生成AIは超リアルなコンテンツを生み出し、現実と合成の境界を曖昧にしています。

第二に、私たちは単純なネットワークシステムから、私が「3Dネットワーク」と呼ぶ、複雑な複合AIシステムへと移行しています。このようなシステムでは、リスクは非線形であり、小さな脆弱性がシステム全体に連鎖的な影響を及ぼす可能性があります。

そして第三に、「コリングリッジのジレンマ」です。これは新しい技術を規制する際の課題を指します。介入が容易な初期段階では情報が不足しており、十分な情報が得られる頃には、既得権益が固まり介入が困難になっている、というものです。

前に進むための3つの視点

では、どうすれば前に進めるでしょうか。3つの視点を提案します。

第一に、完璧を追い求めるのではなく、各文脈において「十分に良いAIとは何か」を定義することです。

第二に、リスク「または」リワードではなく、リスク「と」リワードに焦点を当てることです。

そして最後に、ガバナンスとテストを別々の活動としてではなく、一つの連続体として捉えることです。「AIアシュアランス」というコミュニティが、監査、リスク評価、テストといった様々な手段を提供し、ガバナンスと製品開発の橋渡しをする必要があります。

振り返りと閉会の挨拶

Irish: おはようございます。フィリピンのGlobe Telecomでチーフ･プライバシー･オフィサーを務めるIrish Salandanan-Almeidaです。本講演を少し振り返りたいと思います。

J. Trevorは、Bertha Benzがブレーキを発明したのは車を遅くするためではなく、より速く安全に走らせるためだったと語りました。同様に、信頼と安全を新興技術に組み込むことは、イノベーションを阻害するのではなく、より速く進めることを可能にします。

また、Aprilからは、AIガバナンスの未来と3つのトレンド、前に進むための重要な視点について学びました。

今年のプログラム作成にご尽力いただいたアジア諮問委員会に感謝申し上げます。皆様のおかげで、アジアのプライバシーネットワークが活気づいています。ぜひ会話を続け、新たなつながりを作ってください。ありがとうございました。

以上

===

◆ 関連記事
[Vol.1]世界のAI・プライバシー専門家が語る未来──IAPPアジア2025 開会セッション
[Vol.2]企業において実現するプライバシー対応の自動化──グローバル視点での実践と戦略
[Vol.3]グローバルプライバシーの実装――最前線からの教訓
[Vol.4]AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス
[Vol.5]AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割
[Vol.6]AIにおけるデジタル信頼の構築──アジア太平洋の視点から
[Vol.7]進化する子供のプライバシー法──遵守するための実践的戦略
[Vol.8]AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス←この記事
[Vol.9]あなたのビジネスは大丈夫？アジアAI規制の最新マップ
[Vol.10]アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
[Vol.11]AI時代のリスクと機会──インシデントへの備えと対応
[Vol.12]AIガバナンス最前線──アジア各国の戦略
[Vol.13]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(前編）
[Vol.14]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(後編）

===

＜＜前へ：進化する子供のプライバシー法──遵守するための実践的戦略
＞＞次へ：あなたのビジネスは大丈夫？アジアAI規制の最新マップ

===

IAPP公式サイト：https://iapp.org/conference/global-privacy-summit/

#AIガバナンス　#AI利活用　#プライバシー　＃IAPP　#プライバシーガバナンス　#データガバナンス　#データ保護　#プライバシー保護　#技術革新　#AIアシュアランス　#生成AI　#コリングリッジのジレンマ　#イノベーション　#自動車　#電灯　#プライバシーの権利　#信頼と安全　#歴史的教訓　#法規制　#リスク評価