アディティア・V・カシャップ氏は、AI・イノベーションリーダーとして、信頼できる戦略、ガバナンス、大胆なリーダーシップを通じて企業変革を推進している。
長年にわたり、デジタル信頼性に関する議論は人間のアイデンティティ窃盗に集中してきた。銀行、政府、消費者はパスワード、指紋、社会保障番号の保護に注力してきた。
しかしAIが浸透した世界では、この固執は時代遅れだ。今後、信頼は人間の認証ではなく、機械の認証に関するものになる。
この変化は理論上のものではない。現実にリアルタイムで展開されている。私たちは、デジタル経済における多くの相互作用、意思決定、コンテンツが、機械のスピードでグローバルな規模で動作するモデル、エージェント、自律型プログラムからなる人工システムによって生成される時代に突入している。
今日、重要な問いは「オンラインで誰を信頼するか？」だけでなく、「何を信頼するか？」でもある。あらゆるシステムが流暢で説得力のあるアウトプットを生成できる時代において、アイデンティティそのものが分断線となる。
アクターとしての機械
多くの人々はAIをツールとして見ている。しかし実際には、自律型機械は個別の主体として行動している。これらの自律型エージェントは取引を交渉し、契約を実行し、取引を承認し、潜在的なコンプライアンス問題を特定し、ソフトウェアを作成している。
さらに、大規模言語モデルは何百万人もの読者に読まれる無数の記事、レポート、政治的コミュニケーションを作成している。機械アイデンティティ（つまり、特定のエンティティが自称する通りのものであるという保証）は、このエコシステム全体を結びつける見えない接着剤である。
現在のデジタル信頼ソリューションは、機械ではなく人間のために作られている。デバイスやサーバーのアイデンティティを検証する手段として暗号化証明書やログイン認証情報を使用しているが、これらは自己創造的な運用モデルとその自律的な運用を認証するのには適していない。
機械が情報の伝達者から情報の作成者へと移行するにつれ、信頼を確立する問題は指数関数的に増大する。機械の出力の起源、完全性、権限を検証する方法がなければ、正当なものと偽造されたものの境界線が曖昧になる。
迫り来る信頼の危機
今日、人間が頼りにしている正当性の指標を考えてみよう：文法、流暢さ、一貫性、トーン。生成AI系統はこれらすべてを模倣できる。権威があるように見えるが、基盤のない研究論文、法的文書、投資分析、政府勧告を作成することができる。
政治においては、これは本物の選挙運動メッセージと区別がつかない合成プロパガンダを意味する。金融では、信頼されるモデルを装いながら静かに市場を操作するアルゴリズム取引ボットを意味する可能性がある。医療では、治療決定を変更する偽の診断システムを意味する可能性がある。
この脅威の規模は、人間のアイデンティティ窃盗を上回る可能性がある。一人の人間の認証情報は盗まれる可能性がある。しかし、機械アイデンティティの侵害により、何千もの合成アクターが同時に正当なシステムを装い、セクター全体を弱体化させる可能性がある。
信頼できる機械アイデンティティがなければ、単なる誤情報だけでなく、システム的な誤帰属のリスクがある。そのような世界では、最初の問いはもはや「この情報は真実か？」ではなく、「どの機械がこれを生成したのか、そしてその機械を信頼できるか？」になるだろう。
歴史からの教訓
私たちはこれまでも信頼の危機に直面してきた。パスポートシステムは、国境を越える人々を認証する必要があったために登場した。金融システムは、銀行が盲目的な信頼だけでは運営できないため、Know Your Customer（KYC）ルールを開発した。
今日、私たちは同様の瞬間に直面している。機械のためのパスポート、監査、規制の枠組みに相当するものが必要だ。
歴史からの教訓はシンプルだ：正当性が安定性を生み出す。アイデンティティが崩壊すると、信頼は消滅する。信頼がなければ、商取引、ガバナンス、社会的結束は大きな課題に直面する。機械経済が自己規制するとは考えられない。パスポートが国際旅行に不可欠だったのと同じくらい基本的なインフラが必要になる。
信頼のインフラを設計する
実際にはどのようなものになるだろうか？最低限、すべての機械アクターには検証可能な出所、つまり誰がそれを構築し、どのデータセットで訓練され、どの権限がそれを管理しているかを追跡するデジタルな系譜が必要になる。系譜がなければ、出力は責任から切り離される。系譜があれば、機械が正当な参加者として信頼される経済を創造できる。
これには、場当たり的な修正ではなく、機械アイデンティティのためのグローバルスタンダードが必要だ。ウォーターマークや出力タグは始まりに過ぎないが、それらは応急処置に過ぎない。必要なのは、機械がネットワーク、プラットフォーム、管轄区域を超えて自己認証できる相互運用可能なフレームワークだ。つまり、機械のためのデジタルパスポートである。
リーダーは今すぐ行動すべき
これは将来の問題だと主張する人もいるだろう。しかし、それは間違いだ。すでに、ディープフェイク動画が選挙で出回り、偽の研究論文が学術誌に掲載され、企業はAIが生成したレポートの信頼性を検証するのに苦労している。
米国とEUの規制当局は規制要件を課すために奔走しているが、その取り組みは断片的だ。特に堅牢な機械アイデンティティフレームワークの確立を遅らせることで、悪意のある行為者がギャップを悪用し、AIとそれに依存する機関の両方への信頼低下につながる可能性がある。
責任は政府と企業の両方にある。政府は国家安全保障の一環として機械アイデンティティフレームワークに投資し、認証をデジタルインフラの中核に組み込む必要がある。企業はサイバーセキュリティと同様に、機械アイデンティティを取締役会レベルの優先事項として扱わなければならない。
リーダーシップの命題
これは単なる技術的な議論ではない。リーダーシップの試金石だ。
石油でもデータでもなく、合成知能によって定義される新しい時代が到来している。信頼をめぐる戦いは、もはや盗まれたログイン情報や破損したデータベースをめぐって戦われるのではない。それは、私たちに代わってますます意思決定を行う機械の真正性によって決定される。
問いはもはや「誰を信頼するか？」ではない。「何を信頼するか？」であり、その答えは、AIの成長とともに信頼を維持するための機械アイデンティティの基盤を構築する先見の明があるかどうかにかかっている。
