Anthropic（アンソロピック）が1兆ドル（約161兆円。1ドル＝161円換算）規模のIPO（新規株式公開）を目指していると報じられた。そんな中、同社はClaude Fable 5の安全性への懸念をめぐり、世論の厳しい視線を浴びている。
AnthropicとClaude Fable 5をめぐる米政府高官との激しい交渉は、AIガバナンスにおける重点の移行を映し出している。議論の軸は、アラインメント（AIを人間の意図や価値観に沿わせること）やプライバシーといった論点から、サイバーセキュリティ、国家安全保障、データ主権の問題へと、大きく動きつつあるのだ。
フロンティアAIはもはや単なる民間製品ではない
Anthropicは自社モデルの安全策の有効性を擁護し、「いかなるモデル提供者であっても、ジェイルブレイク（脱獄＝安全制限の突破）に対する完全な耐性を現時点で実現することは不可能である」と主張している。しかし、本当の問題は、特定のAIモデルが国家安全保障に具体的なリスクをもたらすかどうかではない。フロンティアAIによって、民間のイノベーションと公的な監督との間に広がる溝が、もはや無視できないほど大きくなっているという点にこそある。
各企業がより強力なシステムの構築を競う一方で、各国政府はそうしたシステムをどう評価し、どう制約し、どう責任を問うかを、いまだ模索している段階にある。複雑なアルゴリズムを誰がどこまで理解できているかという知識の偏りもまた、何が問題になりうるのかという広範な不安を生んでいる。テック大手がAI人材の獲得を競い合う中、AIを使いこなす最先端のスキルは、現状ごく少数の人々しか身につけていない。
この溝がある限り、政府の介入は場当たり的にならざるをえない。明確な基準がなければ、政府はモデルが構築あるいは公開された後で動くほかなく、その対応が過剰反応なのかどうかも誰にも判断できない。AIを統治する手法としては、あまりに脆弱と言わざるをえない。
求められているのは、フロンティアモデルが政治的危機に発展する前にそれを評価できる仕組みである。具体的には、正式な審査プロセス、専門家委員会、そして独立機関の整備だ。食品、医療機器、航空、原子力と同じく、強力な技術を扱うには、企業の自主的な自己評価だけでなく、公的な手続きと基準が欠かせない。
