AI覇権をめぐる競争は複数の分野で激化しており、各国、企業、投資家は取り残されることへの恐怖に駆り立てられている。データが世界を飲み込むという究極の表現として、AIは私たちの個人データとプライベートデータの長年の苦難に終止符を打つ可能性がある。また、AIがプライバシー保護を復活させ、個人データのセキュリティを再活性化させる可能性もわずかながら存在する。
オンラインとオフラインの両方で私たちの生活に関するデータが常に収集されていることから、10年前に私は提案した。「私たちの自由を溺れさせるデータの洪水に対する最初の防衛線は、ビッグデータ信仰の誤った教義を暴露し、説明し、公の議論から根絶することである」と。残念ながら、ビッグデータとその「約束」の肩の上に立つAIは、私たちの行動を監視し、データを利用しようとする動機をさらに高めただけだ。
「個人がTargetでバナナを購入した場合、その人のバナナ購入に関するデータが何社に渡るか考えてみてください」と、StarkWareのゼネラル・カウンセルであるキャサリン・カークパトリック・ボス氏は最近私に語った。「平均的なアメリカ人の日常活動について、これほど多くのデータが収集されていることは不安です」
絶え間なく成長するコンピューティングパワーと言語モデル、AIファクトリー、そしてソブリンAIで構成されるAIエコノミーは、様々な方法で状況を悪化させている。「AIによってゲームのルールが最近変わりました。以前にはできなかった多くのものを偽造できるようになったからです」とカークパトリック・ボス氏は言う。例えば、銀行口座を開設するための偽造パスポートの作成などだ。「一般の人々に関する膨大なデータリポジトリがあらゆる場所に存在し、それが現在機械学習に取り込まれています」とカークパトリック・ボス氏は述べる。そのデータは、今日の「危機レベルのデータ侵害」によって広く露出している。
2024年の米国におけるデータ侵害の報告件数は2,850件で、2019年の1,473件から増加している。AIモデルは膨大な量のデータを処理し、個人に関する推論を導き出すだけでなく、企業のサイバーセキュリティに新たな課題をもたらしている。IBMとPonemon Instituteの2025年データ侵害コスト報告書によると、調査対象組織の97%がAI関連のセキュリティインシデントを報告し、適切なAIアクセス制御が欠如していた。組織の63%がAIを管理したり、シャドーAIの拡散を防止するためのAIガバナンスポリシーを欠いていた。
AI覇権競争は個人的なものとなり、従業員はAIスキルと専門知識を示すことで先に進もうと競争している。多くの場合、彼らは組織によって検証・承認されていないAIアプリケーション（いわゆる「シャドーAI」）を使用することでそれを行い、機密データを露出させるリスクを冒している。
この深刻なセキュリティの脆弱性は、最近の企業によるAIエージェント導入の急増によってさらに強化されている。CollibraとThe Harris Pollによる最近の調査では、意思決定者の86%がAIエージェントが期待されるROIを提供すると確信している。しかし、正式なAIガバナンスポリシーとフレームワークを確立しているのは48%のみで、従業員にガバナンスとコンプライアンスのトレーニングを提供しているのは47%にとどまる。AIエージェントの期待される利点は、企業データにアクセスし、外部世界と接続し、自律的なアクションを実行する能力に基づいている。これらのAIエージェントのスキルはまた、「データ漏洩」と機密データの意図しない共有を増加させる可能性がある。
個人データとプライベートデータの可用性は、少なくとも部分的には、プライバシーよりも利便性を優先する消費者の選択によるものだった。ほとんどの消費者は企業が自分のデータで何をしているのか理解しておらず、それに対して自分たちがほとんどあるいは全く制御できないと考えている。それでも、少なくとも一部の消費者にとって、この状況は変わり始めている。最近のデロイトの調査によると、消費者の48%が過去1年間に少なくとも1種類のセキュリティ障害を経験した（2023年の34%から増加）一方で、自分のデータを保護するテクノロジープロバイダーを信頼している消費者は、信頼度の低い消費者と比較して、過去1年間に接続デバイスに50%多く支出していることがわかった。
AIエコノミーにおいて、信頼の重要性に関する意識の変化と、それを確立するための新たな手段が、データプライバシーの未来を決定する重要な要素となる可能性がある。
「数学は決して嘘をつかない」とStarkWareは言い、同社のゼロ知識証明は個人に関する実際のデータを明かすことなく情報を検証することを可能にする。このような暗号化ベースのソリューションは、プライベートデータを保護するためにさまざまな領域で使用できる。例えば、Dualityの準同型暗号化は、規制や患者のプライバシーの懸念からデータ共有が妨げられている異なる医療センターからのデータセットを組み合わせるために使用できる。これにより、研究者、医療提供者、支払者は、従来のデータ非識別化などのデータ品質を低下させる方法に頼ることなく、利用可能な最高の患者データに対してクエリ、分析、AIモデルのトレーニングを行うことができる。最近、Googleの研究者たちは、差分プライバシーとして知られる方法でトレーニングされた大規模言語モデルをリリースした。これにより、モデルがトレーニングデータ内で一度しか発生しなかった例（個人の名前、住所、電話番号など）を記憶することを防ぐ。
複雑な数学—そしてAI—は、データプライバシーの状態を低下させるのではなく、向上させるために使用できる。それでも、信頼を高める取り組みと個人データのセキュリティ向上は、AIエコノミーにおいて困難な戦いに直面している。先週、私はFacebookから次のようなメッセージを受け取った。「2025年12月16日、プライバシーポリシーを変更します。詳細は以下の通りです。AIとのやり取りを使用して、あなたの体験と広告をパーソナライズし始めます」
「プライバシーについて話すとき、プライバシーを求める人々は悪事を働く人々であるか、自分自身や自分の行為を隠すためにプライバシーを求めているという前提がよくあります。しかし、人々がプライバシーを望む正当な理由は多数あります」とカークパトリック・ボス氏は言う。「アメリカの観点からすると、プライバシーの権利が憲法に明記されていることを認識することは非常に重要です。なぜなら、建国の父たちは、個人が自分の道徳観や価値観の根本的な表現としてプライバシーを持つことができるようにしたかったからです」
