AIの台頭は、甚大な被害をもたらし得る無数の問題を伴っている。捏造または誤った情報（「ハルシネーション」と呼ばれる）があまりに蔓延し、たまの間違いではなく「それが当たり前」のように受け止められるまでになった。ニューヨーク・タイムズのある記事では、いくつもの研究を挙げて一部のAIモデルがいかに不正確であるかを示している。その中にはOpenAI（オープンAI）に関する研究もあり、適用するベンチマークテストによっては、48〜79%の頻度でハルシネーションを起こすことが示された。
こうした偽情報の出現は、AIをめぐる不安と不信の高まりにつながっている。筆者の会社であるProsper Insights & Analyticsが最近実施した調査データによれば、AIに関して何を懸念しているかを経営幹部や事業主に尋ねたところ、回答者の39.8%が「AIは虚偽の情報を提供し得る」と考えていた。これは最も多く挙げられた回答であり、37.2%も「人間による監督が必要だ」と回答した。だが、これまでデジタル世界で用いられてきたタイプの監督では、私たちが向かいつつある動きの速いエージェント型AIの世界では不十分である。
「AI時代には、ガバナンスの新たなパラダイムが必要になる。モデレーターやファクトチェッカーによる従来型モデルには従わない」と語るのは、ShelterZoom内のディープテック企業で、AIが抱える最大の問題に対するブロックチェーンソリューションの構築に注力するMithra AIの共同創業者、チャオ・チェン＝ショーランド氏だ。「ブロックチェーンのような『単一の信頼できる情報源』となり得る技術で所有権のトレーサビリティ（追跡可能性）を確保できれば、AIのための自己統治的な環境を実現できるかもしれない」
ブロックチェーンは、信頼でき監査可能なAIシステムを構築する強力な基盤となり得る。分散型で改ざんが検知できる台帳としてしばしば説明されるこの技術は、暗号学的証明や系譜（リネージ）イベントを記録し、情報の出自、完全性、履歴を検証できる。各データ資産は暗号学的ハッシュと、オンチェーン上の固有の記録にひもづけられる。これにより、資産がいつ作成され、アクセスされ、共有され、参照されたかを示す、改ざん不能でタイムスタンプ付きのログが作られる。結果として、データの真正性、所有権、完全性を証明できるようになる。これは規制下の環境や、信頼性・正確性・説明責任が不可欠なAIシステムにとって重要な要件である。
データのハルシネーションは、AIがデジタル環境にもたらしている問題の始まりにすぎない。データ漏洩や不正確さも、もう1つの大きな懸念材料である。ある調査によると、大規模なグローバル組織は、データの不正確さにより、世界全体の年間収益の約6%、推定4億600万ドル（約610億円）を失っている。報告書が説明するように、「これは、不正確または低品質のデータを使用して構築されたAIモデルの性能が不十分なため、誤った情報に基づくビジネス判断につながっているからである」
データ漏洩は、金銭面でも評判面でもさらに深刻な損害をもたらし得る。企業の機密情報が公になれば、数百万ドル規模の売上損失にとどまらず、社会からの信頼を完全に失う恐れがある。その信頼を取り戻すには何年もかかり、その間の業績への悪影響は甚大だ。これは医療業界で特に顕著で、ランサムウェア攻撃やその他のデータ漏洩が毎週のように起きている。何百万人もの人々の機密の医療情報がダークウェブに流出し、組織が巨額の金額を支払ってデータを取り戻すまで「身代金」として人質に取られてきた。2025年の医療分野のサイバー攻撃は21%増となり、減速する兆しは見られない。
前述のProsper Insights & Analyticsの調査では、AIが自分自身の個人情報へアクセスすることに対して、世論が懸念していることも示された。回答者の合計56%が、AIによるデータ利用でプライバシーが侵害されることについて「非常に懸念している」または「かなり懸念している」と答えた。
ここでは、AIが問題であると同時に、解決策になり得る。AIツールは、ランサムウェア攻撃やその他のデータアクセス手段をより高度化させつつある一方で、企業のシステムを通過するデータ送信を監視する用途にも使える。組織内を日々移動する情報量は膨大で、人間だけで監視するには限界がある。しかし、機密性の高い情報や秘匿すべき情報の可能性を検知できるよう訓練されたツールは、制御の仕組みを提供する。
チェン＝ショーランド氏はこう説明する。「AIが大規模にデータを統合できるのなら、組織から外に出ていく文書を分析し、統制することもできる。従来のデータ損失防止は範囲が狭く、静的だ。AIはリスクを増幅させる存在としてのみ見られがちだが、制御レイヤーにもなり得る。AIは文脈に基づくリアルタイムの保護を可能にし、機微なデータがそもそも露出しないよう防ぐ」
世界がより多くのAI製品を次々と構築しようと急ぐなかで、これまで見たことのないリスクや脆弱性に直面することになるだろう。AIの危険に対抗できるツールはすでに存在するが、それらを有効に活用するためには、新しい見方で捉え直す必要がある。
開示：上記で参照した消費者センチメント調査は、筆者の会社であるProsper Insights & Analyticsが実施した。これは全米小売業協会（National Retail Federation）が使用しているものと同一のデータセットであり、経済ベンチマーク用途としてAmazon Web Services、Bloomberg、London Stock Exchange Groupからも入手可能である。
