【音声あり】AI for Humanity: データ品質向上が人権保護に〜マスターカードとトルコ難民データの事例から〜

( EVENT REPORT )

トップトップ

●

お役立ち情報お役立ち情報

●

イベントレポートイベントレポート

●

【音声あり】AI for Humanity: データ品質向上が人権保護に〜マスターカードとトルコ難民データの事例から〜

PlayBook（社内ルール）
開発支援サービス

AI･パーソナルデータ利活用のルールをまとめ、現場の機動力を加速する。

もっと詳しくもっと詳しく

arrow_forwardarrow_forward

【音声あり】実世界データでAIを磨き込む〜ファインチューニングの現場とプライバシー対応の最前線〜

【音声あり】AI時代─人間らしさが武器になる〜米欧の規制動向とGoogleの取り組み〜

【音声あり】AI採用に潜むリスクと対策〜いま、企業が直面する課題〜

経営層レベルにおけるデジタルガバナンスの構築と維持

【音声あり】Click & Risk：AI時代の「広告」と「消費者プライバシー」の具体的対処法〈講演レポート〉

AI時代におけるイノベーションとコンプライアンスの両立

《米中AI覇権争いの真実》大国の興亡と汎用技術拡散の歴史

【音声あり】AIガバナンスを組織にどう実装するか？〈講演レポート〉

【講演レポート】ローレンス・レッシグが語る「ビジネスモデルが法を超える」──規制の4要素とAI時代のプライバシーの再定義

【対談】サム・アルトマン(OpenAI)ーAI時代のプライバシーと人類の未来：「人間らしさ」の証明とは？〈要約版〉

PlayBook（社内ルール）
開発支援サービス

AI･パーソナルデータ利活用のルールをまとめ、現場の機動力を加速する。

もっと詳しくもっと詳しく

arrow_forwardarrow_forward

無料で相談する無料で相談する

arrow_forwardarrow_forward

資料ダウンロード資料ダウンロード

arrow_forwardarrow_forward

AI for Humanity: Achieving Data Quality to Ensure Human Rights
IAPP Global Privacy Summit 2025 現地レポート[Vol.8]　

この記事は音声でもお楽しみいただけます（Notebook LMの音声概要機能を利用しています。記事の内容との齟齬や文字の読み方が正確でない部分がありますので、予めご了承ください）

PrivacyTech · AI for Humanity

転載：IAPP Global Privacy Summit 2025

品質の高い教師データが与えられていない人工知能システム（AI）は、性能、精度、または堅牢性の基準を満たす可能性が低く、個人に対する差別的で不公正な扱いを招く可能性がある。このセッションでは、人権とプライバシー保護のため、そして安全で信頼できるAIを実現するためのデータ品質の重要性について議論が行われた。

◆ この記事でわかること
===
・マスターカードの事例から読み取るAIガバナンスの構築方法。
・データ品質が、AIシステムのグローバルな開発および人権保護を支え、安全で信頼性の高い仕組みを実現する上で果たす重要な役割について。
===

登壇者
民間セクターの視点 - マスターカードのフレームワーク
国際機関の視点 - データ権利と権力動態
「難民のためのデータ」ケーススタディ
個人の権利からコミュニティの権利へ
AIと人権保護
データ品質と人権の交差点
尊厳の問題 - 技術的な品質を超えた課題
データ品質の課題 - 「盲点」
合成データの活用とリスク
データ収集が生む潜在的な危害
AIによる「代理的プロファイリング」の危険性
データサイエンスの視点から見る実務における課題

登壇者

David Satola, Lead Counsel, Innovation and Technology, World Bank
世界銀行内外において、テクノロジーおよび法律関連の幅広い問題に関する法的助言サービスを提供している。業務範囲は85カ国以上に及び、通信インフラ、サービス、アプリケーション、サイバーセキュリティとサイバー犯罪、電子商取引とオンライン認証、デジタルID、ソフトウェアライセンス、データ保護、情報へのアクセスなど、取引および規制に関する事項に重点を置く。
ジョンズ・ホプキンス大学で学士号と修士号、ウィスコンシン大学で法務博士号を取得。ロンドン・スクール・オブ・エコノミクスとハーグ国際法アカデミーでも学んだ。

Anwar Mahfoudh, Chief, Innovation and Analytics Hub, UN Human Rights (OHCHR)
データ、テクノロジー、イノベーションが交差する領域で活躍。デジタル技術、人工知能、高度な分析技術を活用し、人権と地球規模の目標の推進に努め、国連システム全体の変革を推進している。
人道支援と開発の分野で 20 年以上の経験を持つ。デジタル変革を主導し、危機的状況や複雑な環境における AI ガバナンスとデータの倫理的管理をサポートしてきた。
現在、国連人権高等弁務官事務所のイノベーション・分析ハブの責任者として、証拠に基づく人権監視と報告を強化し、データ駆動型システムにおける偏見と差別を最小限に抑え、信頼できる人権中心のデジタルガバナンスを推進する方法論の先駆者である。
イノベーションが人類に役立ち、プライバシーが保護され、最も脆弱な人々に対する体系的なリスクが軽減されることを目的とした、グローバルデジタルコンパクトなどの多国間フレームワークに直接貢献している。

JoAnn Stonier, Mastercard Fellow of Data and AI, Mastercard
マスターカード初のプライバシーオフィサー、その後データオフィサー、そして現在はデータ＆人工知能（AI）フェローとして、同社のグローバルデータ事業の設計と運用に大きく貢献してきた。組織のイノベーション、ポリシー、リスク管理の取り組みを支援している。
データ分析と人工知能を応用した製品ソリューションの開発にも精通しており、データ公平性と社会への影響という分野に強い関心を持つ。
データ、AI、プライバシーに関する新たな課題において広く認知され、高い評価を得ている思想的リーダーであり、業界幹部、政府、政府間組織、NGOにも助言を提供してきた。
Business of Data誌の2023年版「Top 100 Data Leaders of the Year」、Technology Magazine誌の2023年版「Top 100 Women in Tech」、CDO Magazine誌の2023/22年版「Global Data Power Women」など、数々の賞にノミネート・受賞している。2011年には、Aspen InstituteのFirst Mover's Fellowship Programのフェローに選出された。
セントジョンズ大学で法務博士号、セントフランシス大学で理学士号を取得。ニューヨーク州弁護士会およびニュージャージー州弁護士会の会員。

Patrick Vinck, Director of Research, Harvard Humanitarian Initiative
ハーバード大学人道支援イニシアチブ　研究ディレクター。

民間セクターの視点 - マスターカードのフレームワーク

200以上の国と地域で事業を展開するマスターカードは、プライバシー、セキュリティ、データ、AIなど進化する分野における法規制の適用において、最高共通基準を採用し、すべての人を平等に保護することを目指している。

同社は、ガバナンスの核心に人を置く原則を掲げ、「私たちはどう感じるか？」「私たちの親はどうか？」「私たちの子供はどうか？」と常に自問しながら、実務上のプロセスを設計している。このアプローチは、同社がデータを活用した設計を開始した際に採用された。BtoB企業でありながら、BtoCブランドを持つ企業として、顧客の利益を最優先に考えていることが伺える。

顧客からの信頼は事業継続に不可欠であり、顧客が自分自身の情報の利用方法に疑問を抱くような行動は逆効果を生む、という考えが根底にある。

図：AIガバナンスフレームワーク（マスターカード）転載：IAPP Global Privacy Summit 2025（当社が日本語に変換）

マスターカードでは、「AIガバナンスフレームワーク」（図）を用いて、組織全体の思考が人々にどのような影響を与えているかを体系化している。単に、AIのアルゴリズムによる出力結果だけでなく、その結果が、自分たちが望む正しい「成果」が得られているのか、そして、人々にどのような「影響」をもたらすのか、を検証することを目的としている。

AIを活用することによって、何ができるか、ということだけでなく、そもそも、やるべきかどうか、必要なデータが利用可能で品質が保証されているかを判断しなければならない。

さらに、データ所有権（インプットされるデータは誰ものなのか？）と品質の評価（正しいデータなのか？）、それらの長所と短所を理解し、できることとできないことを明確にすることが求められる。また、データ所有権者（つまりデータを提供する個人）の権利を理解し、データの利用者が、その権利を踏まえた利活用の範囲を遵守できているかを確認しておく必要がある。

加えて、異なる国や地域における規制遵守を確認し、ある国や地域で許可されていることが別の国や地域では許可されていない可能性があることも認識しなければならない。

AIガバナンスのプロセスは、プライバシー担当者、法務、情報セキュリティ、データアーキテクチャ、データサイエンス、AI専門家、データ品質担当者など、複数のステークホルダーが関与する「チームスポーツ」である。

国際機関の視点 - データ権利と権力動態

AIを活用していくうえでの根本的な問題は、単にデータやアルゴリズムの改善ではなく、誰が権力を握り意思決定を行うかであり、AIはこれらの問題をより深刻化させると考えられている。AIの透明性やコンプライアンスだけを考えるのではなく、「人権」と「人間による監視」を重視すべきである。

「難民のためのデータ」ケーススタディ

AIが登場する数年前、トルコで通信追跡データを使用した「難民のためのデータ」プロジェクトが行われた。シリアからの難民危機への対応において、本人確認に使用されるデータがどのような有益な情報をもたらすかなど、慎重に検討された。

その結果は、データの二重利用の可能性を明らかにするものであった。学校や医療施設、人々がサービスを受けられる言語環境の整備に有効な場所を特定するのに役立つものと同じデータが、難民の存在や違法雇用の追跡、投票との関連性を分析する目的にも使用される可能性があるとわかったのである。安全に利用し、その目的を明確にすることが課題であることを浮き彫りにする結果となった。

個人の権利からコミュニティの権利へ

現在の権利は個人の同意や権利に焦点を当てがちだが、実際のAI・データ活用ではコミュニティ全体が標的となるリスクも大きい。
そのため、以下の新たな権利概念が重要とされる：

集団的な権利の保障
コミュニティが自らのデータ利用方針を決定する権利
コミュニティがデータ提供を拒否・撤回する権利

現状、EU GDPRには透明性・救済等の要素が部分的に見られるが、今後はさらに、説明を受ける権利や管理者の責任の明確化、集団的権利を含む新たな法制度の整備が期待される。

AIと人権保護

講演では、「AIの心は人間である」という原則が強調された。AIはデータによって駆動されるが、そのデータ構造やシステム設計自体が、国民の生活・権利に直接的・間接的に影響を与える。意図的な影響だけでなく、意図しない結果も生じる可能性があり、そのリスク管理が極めて重要である。

AI活用にあたっては、プライバシー・バイ・デザインの原則を遵守することで、設計段階から、収集・処理・共有プロセスの透明性確保や、不測の悪影響を最大限に考慮した安全策の導入が行える。

現在、世界の人口の約3分の1が適切な接続環境を欠き、多くのコミュニティがAIシステムに組み込まれていない言語を使用していると言われている。この事実に対応するため、コミュニティを巻き込み、状況を把握することが非常に重要である。また、データ保護の枠組みを強化し、私たち全員が人権を尊重されるよう努めなければならない。

データ品質と人権の交差点

AIツールはデータ品質に100%依存しており、適切なデータ基盤がなければ適用不可能である。組織は、適切なデータ管理フレームワークを確立する際に、データ精度、関連性、およびバイアス軽減を確保しなければならない。

アナログ世界における既存の人権枠組み（政治的･経済的･社会的権利に関する国際条約など）がデジタルコンテキストにおいても十分に確保されるかどうか、または新たな権利の開発が必要かどうか議論すべきである。

尊厳の問題 - 技術的な品質を超えた課題

データ品質は尊厳の問題であり、単に「より良いデータや、より高度なAIを得るための技術的な問題」ではない。本質的には、誰がデータを作成し、誰が何にラベルを付け、誰がリスクを特定するかという問題である。

サービスに関する意思決定を行う者、リスク評価基準を決定する者が誰であるかは、人権考慮の核心と言える。コミュニティは、特定のシステムでデータを使用されたくない場合、代替的な方法を選択する権利を持つべきである。

コミュニティ主導のデータガバナンスとして、データがどのように使用され、誰によって使用されるかについての明確な共通理解が必要である。透明性は権利であり、単なる開示ではない。「私はあなたに透明性を示しました」から「あなたは自分のデータに何が起こっているか、そしてどのように決定が下されたかを理解する権利があります」へと、透明性の再定義を行う必要がある。

データ品質の課題 - 「盲点」

データ品質の議論では、通常「一貫性」「正確性」「完全性」などが重視されるが、これだけでは不十分であり、誰のデータが欠けているのか、誰が過剰に代表されているのかという視点が不可欠である。この「盲点」が放置されると、誤った分析・結論に導かれてしまい、特にAIでは、こうした誤解や偏りが増幅されやすいと考えられる。

合成データの活用とリスク

盲点を埋める手段の一つとして、合成データ(synthetic data)の活用がある。これにより一定の補完は可能であるが、適切に管理されない場合、データの属性などに偏りが生じたり、相関関係の誤解釈、結果の歪みなどにつながるリスクがある。また、AIが介在することで、こうした誤りは自動的・連鎖的に拡大される危険がある。

データ収集が生む潜在的な危害

データの盲点は技術的課題だけでなく、倫理的･人道的課題とも直結している。特に支援を目的とする医療・教育・貧困・気候変動等の分野では、政治・経済圧力下にある集団の情報収集が当事者を危険に晒すリスクや、収集データが不適切に再利用、悪用される可能性が懸念される。

AIによる「代理的プロファイリング」の危険性

AIは本人が提供していない情報からも属性を推定する力を持つ。年齢、民族、部族、社会集団などを推定し、その推定が政府・第三者により利用されるリスクがある。こうした推定は、「誤った属性付与」→「差別･処罰の正当化」とつながりかねず、重大な人権侵害の火種となる。

データサイエンスの視点から見る実務における課題

データ品質の問題解決に取り組む際、商業組織は常に目的への適合性を求める。適切な成果を達成するには、データの盲点ーつまり情報の欠落、正確性の欠如、不完全さといった点ーに対処しなければならない。一貫性のない情報は意図しない結果を引き起こす可能性があるが、これらの盲点に対処しなければ、意図しない損害を引き起こす可能性があることも忘れてはならない。

データの盲点を埋めるために、意図的にも意図せずとも、偽情報や誤情報を加えてしまう可能性があり、これもまたデータの品質に問題を引き起こす可能性がある。そして、AIはこれを増幅させてしまう。生成型AIは常に学習・稼働し、次に何が来るのかを理解しようとしているためである。

AIが学習と出力を続ける限り、この「盲点」→「誤り」→「増幅」→「さらなる誤り」の悪循環が生まれやすい構造にあることに注意しなければならない。

以上

===