企業と規制が追いつかない量子リスク
こうしたリスクにもかかわらず、多くの企業はいまだに量子コンピューティングを「2030年までに解決すべき将来の問題」として扱っている。米国国立標準技術研究所(NIST)は、量子耐性のある暗号テクノロジーを2035年までに導入する道筋を示しているが、ハーディングによればそのタイムラインはもはやAIと量子の進化の速さを反映していないという。
「現状のタイムラインは、AIと量子技術の進歩の速さに十分対応しているかは議論がある。一部の専門家は、AIが暗号システムに脅威を及ぼし始めている可能性を指摘している」とハーディングは語る。
急速に進む脅威に旧来の対応
それでも、多くの組織は量子への備えを、数年単位のコンサルティングやインフラの更新、ベンダー評価を伴う「長期的なITプロジェクト」として扱い続けている。ハーディングはこの傾向を「サイバー惰性(cyber inertia)」と呼び、はるかに速い脅威に古い対応策で臨む、時代遅れの発想だと指摘する。
「私たちは、高度化した脅威に旧来の技術で立ち向かおうとしている」とハーディングは述べている。エントロキー・ラボのストライトは、「AIはすでに、一部で数学者が直感的に説明しにくい結果を生み出していると指摘される。AIを守る唯一の方法はAIで守ることだ」と主張した。
さらに悪いことに、規制の枠組みはこの状況に追いついていない。EUのAI法(AI Act)も、NISTのAIリスク管理フレームワークも、AIシステムを量子暗号の脅威からどう守るかについてはほとんど言及しておらず、政策レベルで重大な脆弱性が放置されている。
量子解読による被害の想定と財務リスク
量子コンピューターを用いた攻撃で、どれほどの金銭的損失が生じるかは見積もりにくい。しかし原則は単純だ。今日安全とされているものが、明日には安全でなくなるかもしれない。そこには機密性の高いモデルの出力や社内で使われるプロンプト、記録されたエージェントの意思決定、そしてセンシティブなメタデータも含まれる。これらすべてが暴露されたり改ざんされたりする可能性がある。
「天気警報にどう対応するかを考えてほしい。竜巻の発生確率が10%であれば、すぐに避難するはずだ」とハーディングは言う。
彼はさらに、このレベルのリスクは企業の最高情報セキュリティ責任者(CISO)だけで対処できるものではないと強調し、続けてこう述べた。「量子の問題は今や経営陣レベルの課題であり、エンジニアリングの問題にとどまらない。その影響の大きさは、Y2K問題が小さく見えるほどだ」と主張した。
信頼を失えばAIは成り立たない
企業は、AIの性能向上に力を注ぐ一方で、その根幹に潜むリスクについては危険なほど無知なままの場合が多い。ハーディングはこの状況について、「量子がAIシステムに影響を与えるかどうかではなく、それが起きる前にどれだけ早く組織が適応できるかが問題になっている」と語っている。
AIのセキュリティは暗号化だけに依存しているわけではない。その暗号化が破られた時、エコシステム全体がいかに脆弱になるかを予測することが重要だ。もし攻撃者が過去のデータを解読して、データの経路を変え、システムを操作できるようになれば、これまでのサイバー攻撃を上回る規模の打撃が、社会の信頼にもたらされる可能性がある。
AIに力を与えているのは信頼だ。それを失えば、どれほど高度なモデルでも機能や利用価値が大きく低下する。
「私たちは、想像以上に脆弱な仕組みの上に、現代の意思決定の基盤を築いてきた。企業が効率化ばかりを追う一方で、敵はシステムを根本から崩せる鍵を狙っている」とハーディングは語った。


