AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割

 Privacy by Design and Default in AI: The Role of Privacy-enhancing Technologies
IAPP Asia 2025: Privacy Forum + AI Governance Global 現地レポート[Vol.5]　

この記事は、IAPP Asia 2025: Privacy Forum + AI Governance Globalにおける講演内容をもとに、AIによる自動音声認識および自動翻訳技術を用いて作成されたものです。その性質上、実際の講演内容と異なる表現や解釈が含まれる可能性があり、一部の情報が省略または不正確である場合があります。

AIの進化に伴い、生成AIなどにおける個人データのプライバシー懸念が増しています。本セッションでは、専門家がプライバシー保護技術(PETs)に焦点を当て、AIのプライバシー保護とイノベーションをどう両立させるかを探ります。また、CIPL(Centre for Information Policy Leadership)が論文で示した、PETsがデータの取得、モデルのトレーニング、セキュリティ、共同作業におけるプライバシーリスクをどう解決し、新たな機会を生み出すかについての知見を共有します。

◆ この記事でわかること
===
・プライバシー保護とAIイノベーションを両立させる方法について、プライバシー保護技術(PETs)の事例の紹介。
・企業がPETs導入で直面する規制や倫理面を含む課題と、その解決戦略の解説。
・PETsの普及を促す具体的な行動提案。
===

登壇者

Bojana Bellamy, CIPP/E, President, Centre for Information Policy Leadership
Bojanaは、ワシントン DC、ロンドン、ブリュッセルに拠点を置く、世界有数のプライバシーおよびデータ政策のシンクタンクである Hunton Andrews Kurth LLP の情報政策リーダーシップセンター(CIPL)のトップを務めています。CIPLでは、グローバルなビジネスおよびテクノロジーのリーダー、規制当局、政策立案者、立法者と協力し、グローバルなデータ政策と実践の形成、第4次産業革命における責任ある信頼性の高いデータ利用のためのソートリーダーシップとベストプラクティスの開発に取り組んでいます。
25年以上にわたる経験と、グローバルなデータプライバシーおよびサイバーセキュリティに関する法律、コンプライアンス、ポリシーに関する深い知識を持つBojanaは、戦略の立案、データプライバシーコンプライアンスプログラムの構築および管理において、業界で確かな実績を残しています。Bojanaは、プライバシーおよびデータ保護の分野における卓越したリーダーシップ、知識、創造性を評価する、2019 年の国際プライバシー専門家協会(IAPP)のヴァンガード賞を受賞しました。2021年、ポリティコはBojanaを欧州およびその先でデジタル政策とテクノロジーを形作るトップ28人のテクノロジー専門家として、初のリストに選出しました。彼女はまた、2014年から2015年にかけて欧州と米国のプライバシー制度のギャップを埋める実践的な解決策を開発する目的で実施された大西洋横断「プライバシー・ブリッジ・プロジェクト」に参加した20人のプライバシー専門家の一人でした。
現在は複数の諮問委員会や業界団体に所属しており、メルセデス・ベンツの「誠実性と持続可能性に関する諮問委員会」、インターネット委員会の諮問委員会、OECDのプライバシーガイドライン専門家グループ、トムソン・ロイターの「実践的法データ保護諮問委員会」、およびアメリカ大学ワシントン法科大学院の「テクノロジー、法、セキュリティプログラム(TLS)」の諮問委員会などに名を連ねています。また、グローバル・プライバシー・アセンブリーの参照パネルのメンバーにも選出されています。多くの業界団体に参加し、企業や政府主催のイベントやカンファレンスで定期的に講演を行っています。
CIPLに加入する前はアクセンチュアで12年間グローバル・データプライバシー・ディレクターを務め、イギリス国内外の民間・公共セクターのクライアントを対象に、プライバシー法とビジネスに関するコンサルティングと監査プロジェクトを担当するプリンシパル・コンサルタントとして8年間働いていました。

Derek Ho, CIPP/US, CIPM 　
Derekは、マスターカードのアジア太平洋、東欧、中東・アフリカ地域のプライバシーおよびデータ保護担当アシスタント・ジェネラル・カウンセルです。マスターカードに入社する前は、アジア太平洋地域の多国籍企業で法務担当の要職を歴任し、シンガポールのDrew & Napier LLCでは通信、メディア、テクノロジーを専門とするチームに所属していました。
マスターカードでの業務に加え、Derekはさまざまな組織で諮問委員として活動しており、シンガポール個人データ保護委員会のデータ保護諮問委員、DIFCデジタル経済裁判所ワーキンググループのメンバー、OECD AI専門家グループ（AI、データ、プライバシー担当）のメンバーなどを務めています。
Derekは、SDAボッコーニ経営大学院で経営学博士号（優等）を、シンガポール国立大学で法学士号を取得しています。また、公認情報プライバシー専門家、公認情報プライバシー管理者、データ・データエコノミー法シニア認定専門家でもあります。

Chein Inn Lee, Deputy Director, Development of Data Driven Tech, IMDA

Christian Reimsbach Kounatze, Senior Information Economist, OECD

はじめに

Bojana: 皆様、ご参加誠にありがとうございます。Bojana Bellamyと申します。欧州委員会政策リーダーシップ部門、グローバルデータ政策・データプライバシー担当を統括しております。皆さんが非常に気にかけている、また皆さんと議論したいテーマについて、素晴らしいパネリストと共に話し合います。それはAIにおけるプライバシー・バイ・デザインと、プライバシー保護技術(PETs)の利用です。これによりAIの導入を促進し、データの活用と共有を推進します。では、なぜプライバシーと保護技術について議論するのか？私たちは今、非常に興味深い局面にいます。あらゆる国、あらゆる企業、社会のあらゆる部分が、データ、情報、そしてデータから得られる知見の恩恵を確実に享受する必要性が強く認識されているのです。

しかし、データは、私がよく言うように、二面性があります。つまり、それは巨大な利益と可能性を秘め、私たちのすべてを変える一方で、多くのリスクも抱えているのです。プライバシー法などの規制が厳しく、企業が共有を望まない重要な経済的・競争的資産となりつつあります。同時に、データローカリゼーションやデータセキュリティを確保したい政府にとっても重要な資産となっています。つまり、政府はデータから最大限の利益を得ようとしているのです。それが正しいか間違っているかはさておき、データが真にグローバルな新たな基盤となるべきか、誰もがデータから利益を得られるべきか、経済・社会・権力構造を誰が掌握するべきかについては、さらに議論の余地があります。現状はこうです。データは必要不可欠でありながら、規制やリスクに直面しているのです。例えば、データの紛失・損傷・破壊リスクです。したがって、技術を駆使してデータを保護し、確実に活用できる仕組みを構築することが極めて重要になっています。

これが、シンガポール、英国、米国などの政府が検討している理由であり、政府間組織であるOECDが推進している理由です。私達CIPLと世界的なシンクタンクが、データを利用する企業と、奨励策を打ち出す政府・規制当局の両者への働きかけを試みているのは、そのためです。当社の取り組みについてはほとんど触れませんが、私が非常に優れたリソースと呼ぶ以下の2点を共有したいと思います。昨年12月23日、我々は基礎的な論文を発表しました。プライバシー保護技術、すなわちPETsとは何か、法的コンプライアンスの観点で何を達成し、どのように法的コンプライアンスを支援するか、ユースケースは何か（多くの事例が存在します）、そして規制当局や政府がこれをどのように奨励・推進すべきかについてです。

特に今年は、OECDの取り組みと並行して進めた研究を完成・公開しました。AIライフサイクルにおけるPETsの活用法に関するもので、優れたユースケースが満載です。ここで特に重要なのは、AIの導入・活用が一元的なプロセスではないことを説明することです。AIライフサイクルには様々な段階があります。データ収集からモデル訓練、情報利用時のセキュリティ確保、必要に応じて第三者とのモデル訓練における連携、そして当然ながらモデル検証、微調整、そして展開まで。これらは同じ担当者によって行われるとは限りません。そこで我々が注目したのは、特定のPETsが実際にどのケースで役立つか、という点です。ここが本当に興味深い部分です。Christianも本日、AIライフサイクルの各段階で効果を発揮する技術例を共有する予定です。

では、AIにPETsを導入する原則的な利点とは何でしょうか？第一に、当然ながらデータ品質の向上です。AIには多様で良質なデータが必要です。現在では異なる当事者から多様なデータソースを収集でき、それが協業を可能にし、信頼関係を構築します。なぜなら、最も重要なデータを共有しないからです。しかし、最も重要なデータを共有する場合でも、悪用されない形で実現されます。サービスのパーソナライゼーションも可能になります。ここで少し補足すると、今後、特に注目していくのは医療分野のAI、広告技術のAI、金融サービスのAIです。これらの分野では非常に興味深い事例が生まれています。医療とセキュリティ分野でも同様です。具体例を挙げると、これがまさに私が可能性に胸を躍らせている理由です。この点については、後ほど詳しくお聞きいただけます。

欧州連合では「MELLODDY」という優れたプロジェクトが進行中です。複数の製薬企業が通常は競合関係にあり、非常に機密性の高いデータを共有し、より優れた創薬と情報交換を実現しています。こうしたデータが統合されることで、医薬品の開発を前進させ、従来は得られなかった情報を迅速に活用できるのです。しかも、各社の競争優位性は確保されたままです。競争上の優位性は確保され、信頼性とセキュリティも保たれています。これはフェデレーテッドラーニング（連合学習）によって実現されており、データは統合されず、各社のオンプレミスに留まります。これは驚くべきことではありませんか？つまり、私たちのiPhoneにも膨大なデータが存在するのに、実際にはAppleには送信されません。デバイス内に留まり、そこから抽出されるのです。データ転送は発生せず、セキュリティや安全性を確保するための仕組みです。こうした技術こそ、私たちが投資し理解すべき、本当にエキサイティングなものなのです。

Chein Inn Lee氏に質問します。シンガポールでは、もちろん、PETsの推進やインセンティブ付与など多くの取り組みが行われてきました。PETsについてはよく議論されますが、いくつか質問があります。まず最初に取り上げたいのは、難しい問題で、あなたが尋ねたことです。PETsはデータ保護・コンプライアンスに役立つのでしょうか？法的立場は？あるいは「合成データを使いたい」「同型暗号を使いたい」「匿名化したい」と言う企業に、どう説明しますか？これは個人情報ではないと言えるのか？その質問にお答えください。

PETsの法的・技術的な課題とリスク評価

Chein: これは非常に難しい質問です。確かに難しいですよね？誰も明確に答えられず、私自身も答えられないのは、答えたくないからではなく、現時点で測定する十分な指標がないと感じているからです。ただしPETサンドボックスの運用にまつわる私自身の経験や、各ユースケースを評価する方法について共有することができます。まず、各ユースケースを独立して個別に扱うべきだと考えています。

通常、ユースケースの責任者に「データ保護に関してどのような質問がありますか？」と尋ねると、必ず最初に挙がるのが、まさにあなたが言ったような質問です。「私のデータが、例えばTEE(Trusted Execution Environment)を通じて処理された場合、それは依然としてPE(Privacy Enhanced)と言えるのか？」と。一般的に、私たちはこの質問にそのように答えることはなく、規制当局としての回答も、通常はそうは予測しません。

まず我々が問うのは「データ収集の目的は何か？」「データは使用されるのか？」「誰から誰へどのように転送されるのか？」といった点です。考えてみれば、これらは全てDPOとして、また企業として自らが問うべき質問です。全てはリスク評価に帰着します。ですから、技術を検討する際、分析し自問します。再識別される可能性は？受取側が個人に紐付け、追加情報を得る手段は？つまり、現代ではプロセス重視です。「TEEは安全」「他は危険」といった明確な答えではありません。そのような明確な答えは存在しません。

Bojana: ありがとうございます。Christianにも同じ質問をさせてください。

Christian: ありがとうございます。まず、私にご発言の機会をいただき、またOECDの取り組みについてお話しできることを感謝します。確かにこれは難しい問題です。その理由は、結局のところ、先ほども聞いた通り、データがどこで使用されるかによって全てが決まるからです。もう一つの理由は、少なくとも暗黙のうちに、何が個人データであるか否かを前提としている点にあります。

個人データか非個人データか、つまり、二者択一の話だと私たちは考えています。しかし、現実は必ずしもそうではないことを示しています。私たちが議論しているのは、データにどの程度の個人情報が含まれているか、あるいは、そこから個人情報を抽出できるかという度合いの問題です。そして、個人情報を抽出する能力は、利用可能な技術に大きく依存しています。当然ながら、それを抽出可能にする補完的なデータの有無にも依存します。

だからこそ常に「文脈次第だ」という結論に戻るのです。文脈依存性が重要なのです。ちなみに、私たちがユースケースを重視する理由もここにあります。今後頻繁に「ユースケース」について議論するでしょう。なぜなら、ユースケースこそが、文脈をより科学的で形式的、かつ堅牢な方法で記述する手段だからです。

Bojana: それは本当に良い助言ですね。おっしゃったように常に「これが文脈だ」と考え、ここで直面している識別リスクを回避すべきです。興味深い議論は、生成AIの文脈でも少し同じ議論をしている点です。LLMモデルに個人データが含まれているかどうか？データベースではないので、そのようなデータそのものは存在しません。しかし、個人データを含む出力が生成される可能性はあります。これは興味深い点です。リスクベースのアプローチが適切だと感じています。私たちが達成しようとしている成果が、何であるかを明確にすることです。

英国でのデータ保護アプローチの新たな試みとして、ICO（情報コミッショナー事務局）が「合理的な導入経路（組織的・技術的経路）を求める」と表明している点を共有したいです。データ最小化が十分に達成されていれば、それ自体が事実となります。誰かがデータを匿名化したという事実、つまり匿名化作業が完了した事実が重要なのであって、その作業自体を否定するものではありません。重要なのは、この80-20ルールに従うことであり、「私のデータは十分に制限されていない」と主張することではありません。Derek、この特定のトピックについて何かコメントはありますか？

Derek: ええ、多くの議論がありました。外国のプライバシーデータ問題をどう解決するか、というあなたの質問に戻りますが、その通りだと思います。ユースケースを問うのは間違っています。最初に問うべきは、特に技術や技術者に関わる傾向として、私たちがすべきではないことだからです。ユースケースを理解してから解決策を見つけるべきなのに、逆のことをしがちです。これは全く異なる議論です。

多くの技術ベンダーは「私の提案で解決できる」と言いますが、通常はそうではありません。大抵は組み合わせが必要です。では、法的根拠に関する具体的な質問に移りましょう。特にシンガポールでは、法的根拠として正当な利益が認められるようになった現在、多くの場合、緩和措置を導入することが求められます。たとえそれが、法的原則やプライバシーの完全な解決に至らなくとも。ICOが指摘するように、特定のステップを講じていることを示す必要があるのです。

組織はリスクを排除するのではなく、最小化するために取り組んでいます。リスクを完全に排除することは不可能だからです。プライバシー保護技術、仮名化、匿名化、合成ラベルといった手法に投資し、リスクを最小化します。プライバシー保護のために、これらの異なるツールを統合できれば、これは、貴社が実施すべき正当な利益評価というバランステストにおいて、非常に有効なアプローチとなるでしょう。

Bojana: これは単なる説明責任の問題ではありません。CIPLとして我々は正当な利益を重視してきました。特にChein Inn Lee氏にシンガポールの経験について伺いたいと思います。先程、あなたが先駆けたサンドボックスの構想について触れられました。シンガポールがこの分野に積極的に取り組んでいるのは素晴らしいことで、他国の規制当局にも同様の行動を期待します。シンガポールから学べる教訓は何でしょうか。

PETsを活用したイノベーションとビジネスチャンス

Chein: 興味深いことに、この取り組みを始めた当初、どの業種や技術分野に適用すべきか明確ではありませんでした。実際には多様な分野にまたがっています。医療分野、広告・マーケティング、さらには建築分野も含まれます。

つい先週、私にとって非常に興味深いユースケースを発表しました。なぜなら、個人データと密接に関わる業界からの事例だからです。センサー技術が関わっており、これは非常に興味深い点です。彼らはデータを収集するためにPETsを導入する必要があり、その目的は、センサーデータに基づく研究を可能にすることにあります。ただし、このセンサーデータの一部は、個人や企業にとって機微な情報です。そこで彼らは、実際のデータの挙動や統計特性を模倣しつつ、同時に完全な偽の個人データとなる合成データセットの作成の可能性を模索しています。これは我々にとって非常に興味深い事例だと思います。

Bojana: 実際、これは素晴らしい事例です。なぜなら、データ保護法への準拠が重要であり、コンプライアンスがリスク軽減に寄与するだけでなく、自社データの保護にもつながるからです。そして、データ利用者を支援することにもなります。Christian、どうぞお時間をください。ユースケースに関する素晴らしいアイデアをぜひお聞かせください。

Christian: ええ、プレゼンテーションの詳細に入る前に、先ほどおっしゃった点を補足させてください。確かに資産保護の可能性はありますが、それに加えて強調したいのは、これを新たなビジネスを創出する手段として捉える必要があるということです。これは重要な点です。私たちがユースケースを構築・策定した焦点は、まさにこの観点にあります。つまり、AIの文脈でこれらの技術を活用する際に、どのようなビジネスチャンスが生まれるのか？ということです。こうした機会を要約する一つの方法は、AIの共同開発と共有を可能にすることだと言えるでしょう。その点については、後ほど詳しく触れます。OECDの取り組みに詳しい方は、OECDのAIシステム定義をご存知でしょう。ご存じない方は、ぜひご覧になることをお勧めします。これは多くの政府が、AI関連法規を策定する際に参照してきたものです。

しかし、この文脈で重要なのは、ご覧の2つの赤い四角が、PETsが機会を生み出す瞬間を本質的に示していることです。一つはデータ収集の文脈で、これは先ほど話していた内容ですが、基本的にデータを活用して、そうでなければアクセスできないデータソースにアクセスするケースです。つまり、データと入力が見える最初の段階です。もう一つは、AIモデルを再利用可能にして共有し、その保護を実現するものです。これらのモデルを保護する方法は、単に個人データが抽出される可能性があるからだけでなく、機密情報、営業秘密といった情報が、広義では意図的・偶発的に漏洩するリスクがあるためです。

そこで我々は「ユースケース・アーキタイプ」と呼ぶ概念を定義しました。通常、ユースケースは、特定分野に限定されるためです。これらのアーキタイプでは、より抽象的な概念を記述しようとしています。ただし、前述の通り、ユーザーが実際に実現する価値創出に重点を置いています。ここで強調しておきたいのは、ユースケース・アーキタイプという概念自体がIMDA（シンガポール情報通信メディア開発庁）の取り組みに触発されたものである点です。シンガポール政府との協働を通じて、多くの知見を得られたことを、大変嬉しく思っています。これが、私たちが常に喜んでシンガポールに戻り、彼らと協力する理由の一つでもあります。つまり、この2つのユースケース・アーキタイプは、まず第一に、入力データやテストデータの機密利用を通じて、APIプロトコルを強化するものです。テストに使用されるデータも、機密性を持つ可能性があるため、関連するリスクを軽減する方法があれば、モデル性能向上の機会を創出できます。下段には、TEEなどのPETsが示されています。これらは通常、その段階で活用されるものです。

しかし、二つ目のユースケース・アーキタイプもまた興味深いものです。これは、AIモデルの機密保持を伴う共同開発と共有を可能にするものです。つまり、保護対象はデータではなく、モデルそのものであり、PETsを通じて、モデル自体を保護するのです。そして、共同で開発します。報告書をご覧になりたい方は、ぜひご一読ください。報告書には、10の具体的なユースケースが掲載されており、これらのユースケース・アーキタイプを推論する際に、実際にデータ保護技術が様々な場面で、どのように活用されているかを具体的に把握できます。詳細は、報告書でご確認ください。

ただし、この文脈で特に強調したい点が一つあります。先ほど申し上げた通り、ユースケースについては多く議論されており、今後も頻繁に耳にすることになるでしょう。ユースケースが極めて重要であるため、OECDは各国からの支援を得て、フォローアップとして「各国間で比較可能な標準化されたユースケースのグローバルリポジトリ」の構築に取り組むことに合意しました。なぜなら、よくある問題の一つとして、誰と話すか、どの報告書を見るか、どのデータ保護当局、つまり基本的にどのガイダンスを参照するかによって、ユースケースの説明方法が非常に異なる場合があるからです。詳細度のレベルが異なるのです。したがって、私たちの目標は、ユースケースの報告方法を標準化し、いわばワンストップショップを提供することにあります。

つまり、法律や教育において、判例が常に議論や知識交換の重要な要素となっているように、私たちが目指しているのは、これらのユースケースを共通の参考事例として活用することです。判例は、本質的に共通基盤を提供しているからです。その議論のための基盤です。同様に、我々はこれらのユースケースを共通基盤として活用することを目指しています。理想的には、データ保護当局が共通認識を持ち、議論の対象を明確に理解し、共通の参照点を得られるようにするためです。さらに、データ保護目標やその活用に対する各当局の姿勢を、より比較可能な形で位置付けられる可能性もあります。そうすることで、地域によってデータ保護当局が異なる方法を推奨したり、PETsの使用を実際に異なる方法で規制したりする状況に陥らないようにしたいのです。

転載：IAPP Global Privacy Summit 2025（プライバシーテックにて翻訳を追加）

PETs導入の障壁と協力体制の構築 

Bojana: Christian、これらの例の中には、もちろん一つのプライバシー保護技術や一つのプライバシーを通じたものもありますよね。

Christian: その通りです。つまり、これはDerekも指摘した点です。私たちが扱っているのは複合的な問題であり、この議論が複雑な理由の一つです。例えば、暗号化のような単一の技術だけを扱っているなら、状況はより単純だったでしょう。しかし、実際には、議論しているユースケースに応じて、異なるPETsを組み合わせる必要があるケースが頻繁に発生します。

Bojana: 私の見解では、まず第一に、大きな課題の一つは、私たちの最初の論文でも多くのインタビューを実施した通り、コストや複雑さだけでなく、例えば「誰がPETsを所有するのか」「誰が知る必要があるのか」といった決定権の問題です。あなたのリソースは非常に有用です。なぜなら、私たちプライバシー担当者はこれを読んで参考にできるからです。プライバシー担当者は往々にして弁護士やリスク管理者です。彼らは技術を理解していません。彼らには莫大な予算もないのです。だからCIOやCISOが必要ですよね？どう直接的に進めるべきか？つまり、一般的なベストプラクティスはありますか？例えば、社内でPETsについてどう話し始めるか？誰も何のことかさえ知らない、実際のPETsすらないかもしれない会社で。

Derek: ええ、それは課題と結びついています。コストがかかるんですよね？ライセンス料、インフラコスト、そしてコンピューティングコストも発生します。合成データを考えてみてください。かなりの計算コストが発生します。ですから、私はこう考えたいのです。つまり、ユースケースは、次の3つのうちいずれかを達成する必要があります。あるいは、3つ全てを同時に達成できればなお良い。なぜなら、それが議論の焦点になるからです。収益の増加、効率化による経費削減、あるいは推進力となること。

私が言いたいのは、全てのCFOの関心を引くのは、収益だということです。実際、収益を促進するユースケースの2つが導入で最大の成功をもたらします。なぜなら、例えば資金移動や支出管理といった分野に取り組むのは、あまり魅力的ではないからです。しかし、誰もが行き詰ります。随分前のことですが、あるプライバシー保護委員がこんな話をしていたのを覚えています。「データは今も転送され続けている。なぜ我々には技術が必要なのか？それは、誰もが他のやり方に頼っているからだ。契約業者は細分化された部分に分けられ、送付する。だから、多くの人がその状況に慣れてしまい、ずっとそのままでいようとする。なぜ、わざわざあなたが投資しているものを、私が買わなければならないのか？」

新たな事例を理解すること、そして効率性や法令遵守に向けて何を達成しようとしているのかを理解することです。ストーリー、つまり、物語ですね。昨日の議論で誰かが、リスク成熟度モデルについて言及しましたが、これはまさに、取締役会や上級管理職、CFOに説明する際の物語、ストーリーが必要になる部分です。ここが現状の進捗状況なのです。

つまり、Christianの指摘にも通じる協働の重要性です。フェデレーテッドラーニングの専門家が、通常のモバイル暗号化の専門家ではない場合もある。必要なのは専門家だけでなく、データ担当者、企業セキュリティ担当者、ITセキュリティ担当者、法務担当者、ビジネス担当者など、あらゆる関係者が協働することです。購入決定、ユースケース、実装においてです。さらに外部との連携も必要です。専門知識の大半は、自社内には存在しないでしょう。組織内で全ての専門性を揃えるのは極めて困難です。従って、パートナーとの連携が極めて重要です。次に、こうした潜在的なベンダーや技術を同等の条件で評価する手法が課題となります。

では、どのような指標が必要でしょうか？パフォーマンス指標や成功指標を理解する必要があります。先ほど指摘されたように、残念ながら「この指標を満たせば特定の規制要件を満たす」と明言できる標準は多くありません。パフォーマンス指標は存在しますが、規制の観点からは不十分です。これは非常に大きなリスクとなります。そのリスク評価は、この場にいるプライバシー専門家が問うべき課題であり、評価を下せる立場にあるのです。確かに、これは私のリスクをある程度軽減し、導入に関して説得力のある説明材料となります。社内外の協業体制構築において、皆さんが目指す方向性を理解し、それを実現するプロセスこそが、説得力ある説明材料を生み出すのです。

今後の展望

Bojana: この視点は素晴らしいですね。Christianとあなた双方が、PETsの導入のビジネスチャンスを強調されています。だからこそ、プライバシー担当者として企業で働く私たち全員に改めて伝えたい。私たちの役割は、単に「ノー」と言うことでも、法律の条文を提示することでもなく、企業・組織・公共部門が責任ある方法で、必要な行動を実行できるよう支援することです。これが大きな助けとなるでしょう。

企業内での立場において、もし可能であれば、これらの技術を熟知し理解し、そのビジネス上の推進要因と実現方法を把握しているなら、そうすべきです。つまり、最終的に私たちが行うべきことはこれです。この職業は、単なるプライバシー保護から、よりデータに精通し、可能な限り活用を促進する存在へと成長する必要があると考えています。

Derek、あなたに戻りましょう。私たちの作業に参加し、あなたのチームが共有してくれた世界的に事業を展開する巨大金融機関の導入事例で興味深いケースがいくつもありました。合成データが事例の一つだと承知していますが、他にも多くのプロフェッショナルな事例があります。実際のビジネス上の課題の例をいくつか挙げていただけますか？また導入されている不正防止や、コンプライアンス対応の仕組みについても教えてください。

Derek: ええ、そうですね。まずマスターカードについて背景を説明すると、マスターカードは決済エコシステムにおけるグローバルなテクノロジー企業です。金融サービス分野のテクノロジー企業ですね。私たちは企業、銀行、政府、消費者が安全かつ確実に、シンプルな方法で相互接続する支援を行っています。その核心が不正防止対策なのです。2023年、当社のサイバーセキュリティソリューションは、200億米ドルに上る不正損失の防止に貢献しました。24時間だけで年間約1590億件の取引が発生しています。この規模では、極めて正確なシステムが不可欠です。

不正防止の課題は、大半の取引が正当である一方で、ごく一部が実際の不正取引となる点にあります。このごく少数の不正は、国や不正の種類を跨いだ量と多様性の面で十分ではないため、膨大なデータ量が必要になると不正検知モデルの精度が低下します。そこで合成データを活用し、元のデータに基づく合成不正データセットを作成することで、実際の不正データを分析し、取引を検証することで効果を高められます。これが一つのユースケースです。

他にも国境を越えた銀行不正検知に関する潜在的なユースケースがあります。ご存知の通り、データ転送や国境を越えたデータ転送、データローカリゼーションは多くの国で懸念事項であり続けています。そこで、トレーニング目標を達成しつつ、こうした要件に対応する方法を検討しています。これらはいくつかの例です。

Bojana: 金融サービス分野でも同様の事例を多数確認しています。金融犯罪調査や法執行機関とのデータ共有における安全なマルチパーティ計算や暗号化の活用例です。2日前にはインターポール関係者が、法執行機関とのデータ共有の必要性について言及していました。同時にプライバシーリスクや各種コンプライアンス義務も課題です。これも非常に興味深い事例でした。もう一つは、ATMでの安全な顔認証技術の利用です。現金を引き出す際に、忘れる可能性のある暗証番号が不要になります。率直に言って、最終的には生体認証技術が主流になるでしょう。信頼できる方法で生体認証を活用する方法をどう実現するか、それが課題です。

Derek: 課題の一つは、インターポールの代表者が言及したかどうかは定かではありませんが、プライバシー法やデータ保護法だけでなく、金融規制当局、医療規制当局、通信規制当局も関与する点です。そして、すべての規制当局が同じ立場から始まっているわけではありません。当然ながら、異なる規制当局はそれぞれ確立した異なる判例を有しています。そして、彼らは既存のルールブックに慣れ親しんでいます。課題は、データ規制当局と金融規制当局の間で、こうした懸念事項に対処できるよう、あるいは単に自局のルールに依存するだけでなく、セクター横断的な議論を促進することにあると思います。

Bojana: これは非常に良い例ですね。実際、複数の規制当局が関わっています。医療分野でも興味深い事例があります。フェデレーテッドラーニングのケースでは、研究者が生存率データ（特定の疾患や病状における生存確率を臨床判断に基づいて理解するためのデータ）を共有していました。つまり、例えばフェデレーテッドラーニングのような差分プライバシー技術を用いて情報を共有する手法が用いられました。この手法には非常に大きな可能性が秘められていると思います。

ここで、この第三者間共有に関わる事例について少しお話ししたいと思います。先ほどおっしゃっていたように、社内の共有と国境を越えた共有、あるいは他社との共有では違いがあるのでしょうか？時には社内でも、データを共有できない、あるいはデータベースに統合できないというケースがありますよね。これは、第三者との間でも起こります。データフローについてお話しされましたが、データ共有においてどれほど有用なのでしょうか？

Derek: 社内利用と比較して？ 社内利用は一般的にリスクが低いと思います。ただし、国外へのデータ移転が厳しく禁止されている場合は別です。つまり、社内でのデータ共有や移転は概してリスクが低いと言えます。最大のリスクは、異なる事業体間でのデータ移転時に生じます。この分野での連携は、依然として大きな課題となるでしょう。第一に、規制の問題ではなく、それは周知の事実です。

Chein: IT企業は、これを実現する方法を模索する必要があります。つまり、おそらく全てのアプリがこの実現方法を考えるべき領域でしょう。

Bojana: ええ、これは私たちCIPLでもよく議論していることで、私が直接お話ししたこともお聞きになったと思いますが、本当に学際的なチームが必要だという点です。つまり、弁護士にはコンピューターの仕組みやテクノロジーの仕組みを教え、技術者にはデータやデジタルの倫理観を教え、さらに技術者には医薬品についても教える必要があるのです。なぜなら、彼ら自身がその重要性を認識していない可能性があるからです。実際、私たちの業務では多くのベンダーやサードパーティプロバイダーと連携を試みてきました。

しかし、非常に多くの企業が存在するため、これは難しい課題です。優れた企業も確かに存在しますが、政府に何ができるでしょうか。リストを作成できないでしょうか？「準同型暗号を提供するプロバイダーはこちらです。特定の業者を推奨するものではありません。」といった形で。あるいは「こうしたサービスを提供する企業はこちらです。」といった形でも。既製品として購入できるものではありません。ちなみに、年齢確認分野ではこうした動きが見られます。欧州などでは、年齢確認ツールに関して規制の動きが見られます。「どのツールを使うかは指定しないが、この種のソリューションとして存在する約10のツールを紹介する」という形で。

Chein: 現実的な解決策は、現時点ではまだ完全ではないということでしょう。

Christian: 私が指摘したかったのは、この課題が難しい理由は、この分野自体が急速に変化しているためだということです。リストを作成した時点で、1ヶ月後にはそのリストがすでに更新されているのではないかと懸念しています。つまり、常に最新の状態を追いかける必要が出てくるのです。これが第一の理由です。

第二に、PETsに関する議論でも見られる問題として、PETsという言葉自体が微妙に異なる意味を持つ可能性があります。つまり、基盤となる技術、つまりフェデレーテッドラーニングなどの技術を指す場合もあれば、その上に構築される製品を指す場合もあるのです。これは、議論の対象によって有用かどうかが変わる点でもあります。

質疑応答

Bojana: ご参加者からご質問をいくつか伺いましょう。

質問者1: 私たちは社内でP&Dの導入を開始しました。そこで直面した課題は、皆さんから伺っているものとは異なっていました。私たちの課題はコストではありませんでした。ビジネス部門を説得することでもありませんでした。課題は複雑さでした。システムを統合し、技術システムを統合してプラットフォーム全体を構築する複雑さです。次に、貴社の経験からすると、当社のような大手テック企業や他社の場合、コストは問題にならないと思います。資金力がありますから。

しかし中小企業にとって、P&Dの導入コストは依然として高額で手が届かないのではないでしょうか？では、安くないとしましょう。実際に10万ドルかかるとして、そうですね？ あなたの視点から理解したいのですが、3年前にP&Dのコンセンサスでここに参加されていたと思います。それから3年、市場では状況が変わったと思いますか？ 組み込みコストや導入コストの面で、あるいは導入における最大の課題は何だとお考えですか？コストでしょうか？ビジネス担当者の説得でしょうか？それとも実装の複雑さでしょうか？最大の課題は何だとお考えですか？

Christian: お答えします。複数の質問をいただきましたが、御社のような企業にとって、スキル面ではおそらく最高のエンジニアを擁しているでしょう。資金面の制約が最大の問題ではないとおっしゃいました。しかし明らかに、多くの中小企業ではそうではありません。彼らは確かにスキルやエンジニア確保に苦労しています。なぜなら、この分野の専門家は、御社のように適切な給与を支払って引き付ける必要があるからです。

そしておそらく、御社が資金を提供する場合、中小企業(SMB)に流れるでしょう。この側面もあります。とはいえ、実際に起こっていることを見ると、進展は見られます。御社のような企業が資金を提供すれば中小企業に流れる可能性はあります。そしておそらく、もし御社が彼らに十分な報酬を提示すれば、中小企業ではなく御社に流れるでしょう。そういう側面もあるのです。とはいえ、現状では進展が見られると思います。

例えば合成データに関する議論が活発化しています。こうしたデータの生成は、どう言えばいいか、既存のワークフローへの統合がより容易であるという期待があるのです。既存のワークフローに。データ処理のノウハウは既にあり、保護手段として合成データを用いれば、内部のデータ処理活動を変更せずに実現できるからです。

つまり一定の進展はあるものの、完全には至っていないと言えます。政府内でもコスト削減に向けたさらなる取り組みが必要だという認識が広がっています。そのため米国では、コスト削減を推進するための研究開発を促進する目的で、研究開発プログラムが設立された例も見られます。また、もう一つ重要な点があります。ニーズに基づいて全てをカスタマイズする必要があるなら、追加要素も必要になりますし、確かにやるべきことは増えます。

Chein: 実は、当社のPETサンドボックスプログラムでは、一定の資金提供を行っています。しかし、驚くべきことに、この資金提供が最も人気のある要素ではないのです。とはいえ、現時点で資金面が最大の障壁ではないことは皆承知しています。真の課題は価値、ユースケース、そしてリソースと能力なのです。したがって、小規模企業にとって導入コストは高額に感じられるでしょう。しかし、この状況は変わる可能性があります。普及が進めばコストは低下するはずです。現時点ではその段階に達していません。

Bojana: 私たちの議論で明らかになったのは、確かに支援は多いものの、結局のところ大企業が大量のデータを持ち、新たな取り組みやイノベーションを進め、より速く動いていることです。そこで採用が進めば、それ自体が大きな成果だと思います。そして、そこにはエコシステムが役立つ要素があると思います。

大企業が中小企業と提携することで、中小企業と連携する価値を認識し、展開が可能になるからです。彼らがPETsを提供することで、このデータが活用される基盤が整うのです。プライバシーデータ規制に関する取り組みでは、中小企業の問題を解決できません。だから私たちは逆の方向に進む必要があると思います。

Christian: 中小企業には、もちろん一括りにすべきではありませんが、データ成熟度が低い、つまり完全なデジタル化がまだ進んでいない企業も数多く存在します。これが彼らが克服すべき第一の要件だと考えます。PETsの議論はまだ高度な話であり、多くの国々、多くの中小企業にとっては、そもそもデータが経済的機会であると認識しているか、という点が真の課題です。特に伝統的な分野の企業では、全ての企業がそう認識しているわけではありません。

Bojana: それでは、次の２つの質問にまとめてお答えしましょう。

質問者2: 私の質問は中小企業とは逆の立場からになります。おそらく二つの質問です。一つ目は、大企業組織において、ご経験上、どの部門が主導権を握っているとお考えですか？AIガバナンスフレームワークの開発において、プライバシー部門でしょうか？それともサイバーセキュリティやITチームでしょうか？あるいはEDAチームでしょうか？二つ目は、そのような巨大企業で働く上で、数多くのユースケースがある中で、優先順位付けやどのケースから着手すべきかについて、どのような視点をお持ちですか。

質問者3: 私の質問は、PETsやフェデレーテッドラーニング、差分プライバシーといった技術をAIモデル構築に統合する際に、偏りのない状態をどう保証するかです。

Derek: 最初に私が答えます。当社では責任を共有しています。AI・データ部門とプライバシーチームが連携し、あらゆる利用目的の審査プロセスを設けています。事業部門が潜在的な利用効果を提案した場合、ガバナンス委員会が審査し、優先順位付けは、ユースケースの内容と利用可能なインフラの有無によって決まります。各データ環境では他にも多くのプロジェクトが進行中であり、人々が望む年次プロジェクトよりも優先度が高いケースもあります。

Christian: 優先順位付けについて簡単に補足すると、懸念されるデータ処理活動において、共通のデータ処理活動の上に構築されるユースケースが存在するため、同様の活動から恩恵を受け得るケースも見受けられます。優先順位を検討する際にはこの点も考慮すべきでしょう。

二つ目の質問については、二点指摘させてください。一つは、バイアスの問題が言及されたことです。まず重要なのは、些細な点かもしれませんが、バイアスが時に意図的に求められる場合があることを認識することです。異なる活動や実体間のシステム構築において、意図的にバイアスを組み込む必要がある場合があるのです。したがって、真の問いは「対処すべき新たなバイアスとは何か」という点にあります。

第二に、PETsこそが、この問題に対処する手段となり得ることが判明しています。なぜなら、PETsは本来なら機密性が高すぎて利用できなかったデータへのアクセスを可能にするからです。しかし合成データにおけるPACTを活用すれば、AIモデルの品質向上に確実に寄与できます。これが我々が調査したユースケースやユースケース・アーキタイプにおいて、PETsがテストや品質評価に頻繁に用いられた理由です。

システムに存在するあらゆるバイアス、不当なバイアスです。ですから、PETsこそが、皆さんが減らしたい、あるいは取り除きたいと考える、そうした不当なバイアスに対処する真の解決策だと言えるでしょう。

Bojana: 私もその点に興味があります。AIのデータモデルトレーニングとモデル検証のライフサイクルを見ると、偏りを防ぐために機微データを使用するという課題に直面します。必要なのはモデル暗号化のための合成データです。フェデレーテッドラーニングとは何でしょうか？そのようなケースで私たちが取り組んできたことが興味深いと思います。PETsは偏りを回避するのに非常に役立つでしょう。その事例は確認済みです。

質問者4: おっしゃる通り、我々はデータとデータシステムを有し、優れたプライバシー法も整備されています。中小企業を含むあらゆる企業が堅牢なAIシステムを開発するには、大量のデータが必要です。したがって、PETsの導入は選択肢ではなく必須です。堅牢なAIシステムを構築しつつデータプライバシー法などの法令を遵守するには、他に道がないからです。この点についてどうお考えですか。

Christian: つまり、ご指摘の通りだと思います。問題は採用の是非ではなく、より洗練された回答をすることでもありません。本質的な問いは「いかに適切に採用するか」です。技術自体は導入できても、完全に誤った方法で採用すれば、結局は何も解決できず、コストを膨らませ、誤った期待を生み出すだけです。つまり真の課題は「どう適切に実施するか」です。だからこそIMDAが提示したような診断手法が有用なのです。少なくとも注意すべきポイントを可視化し、共通認識を形成する手段となるからです。

Chein: Christianの意見に賛同します。合成データは、到達する「有用性とプライバシーの曲線」の好例です。生成元となる元のデータセットと合成データに完全な一対一対応が保たれれば、それが合成データであるという認識自体が消えます。つまり、どの位置に到達するかは、指標の実装方法や、合成データに存在する可能性のある攻撃（例えばメンバーシップリスク）をどう管理するかによって決まるのです。

Derek: 合成データに対して生じうるリスク、例えば所属リスクについて言えば、確かにデータ問題の解決手段として活用できる点は同意します。ただ、コンプライアンス対策には常にツールボックス的アプローチを推奨したい。合成データが万能薬になることは決してないのです。この声明には何度も何度も、データ管理に関して他にも多くのことが含まれるでしょう。リスク評価も行う必要がありますしね。世界中の規制当局が「より多くのデータ転送を」と認めてくれることを願っています。協力関係の中でデータ転送が促進されるべきです。そうすれば、悪い事例に直面することはないでしょう。

Chein: 同感です。ADPCが公表した実践的ガイダンスを参照してください。PETsや助言について議論する際、常に併せて必要なその他の安全対策も提示されます。これは技術だけを使うべきではないことを示しています。技術自体は優れていますが、既存の慣行や他の全てを捨て去ってよいという意味ではありません。

Bojana: 全く同感です。PETsは決して万能薬ではないと申し添えさせてください。データ活用や共有の目的を達成できない場合もあります。常に使えるわけでもありません。今日は良い日ではなかった。PETsがプライバシー法遵守を解決すると思うなら、それは間違いです。率直に言いましょう、プライバシー法はデータ共有を止めません。責任ある方法で実施する必要があるだけです。データ共有の法的根拠、セキュリティ対策、十分性、個人の透明性、これらは今後も必要です。

私たちがそれを実現できるよう、そして皆さんもまたそれを実現できるよう、これらの原則が正しく解釈されるようにする必要があります。しかし、実際のビジネスニーズと、コンプライアンスが衝突する難しい「境界線上のケース」ではどうでしょうか。まさにそうした場面で、事実が特に役立ちます。

では、すばらしいパネリストの皆様、ありがとうございました。

以上

===

◆ 関連記事
[Vol.1]世界のAI・プライバシー専門家が語る未来──IAPPアジア2025 開会セッション
[Vol.2]企業において実現するプライバシー対応の自動化──グローバル視点での実践と戦略
[Vol.3]グローバルプライバシーの実装――最前線からの教訓
[Vol.4]AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　[Vol.5]AIにおけるプライバシー・バイ・デザインとデフォルト：プライバシー保護技術の役割←この記事
[Vol.6]AIにおけるデジタル信頼の構築──アジア太平洋の視点から
[Vol.7]進化する子供のプライバシー法──遵守するための実践的戦略
[Vol.8]AIは「死の谷」を越えられるか？歴史に学ぶ、次世代ガバナンス
[Vol.9]あなたのビジネスは大丈夫？アジアAI規制の最新マップ
[Vol.10]アジアにおけるグローバルプライバシー管理──中国･インド･東南アジア最新データ保護法マップ
[Vol.11]AI時代のリスクと機会──インシデントへの備えと対応
[Vol.12]AIガバナンス最前線──アジア各国の戦略
[Vol.13]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(前編）
[Vol.14]自律型AIの台頭──プライバシーと次世代AIの緊張関係をどう乗り越えるか(後編）

===

＜＜前へ：AIガバナンスとデータ保護の最前線──世界の専門家が語る規制とベストプラクティス
＞＞次へ：AIにおけるデジタル信頼の構築──アジア太平洋の視点から

===

IAPP公式サイト：https://iapp.org/conference/global-privacy-summit/

#AIガバナンス　#AI利活用　#プライバシー　＃IAPP　#プライバシーガバナンス　#データガバナンス　#データ保護　#デジタルイノベーション　#プライバシーバイデザイン　#PETs (プライバシー保護技術)　#個人情報保護　#フェデレーテッドラーニング　#合成データ　#OECD