中国のオープンウェイトモデルは、どれほどのリスクをもたらすのか
米政府は中国のAIモデル開発を深く憂慮しているようだ。米商務省は6月12日、国家安全保障上の権限を根拠に、米国籍を持たない者によるClaude Fable 5とClaude Mythos 5へのアクセスを停止する輸出規制を一時的に課した。Anthropicによると、政府の書簡には具体的な懸念が記されておらず、規制は、アマゾンの研究者がFable 5の安全策を回避して脆弱性を発見させる手法を報告した後に出された。規制は6月30日に解除され、Mythos 5へのアクセスも米国内の一部組織向けに復旧している。
この措置は、中国製AIモデルを直接の対象としたものではない。それでも、強力なサイバー能力が管理外へ広がることを、米政府が国家安全保障上の問題として扱った事例ではある。同等の能力が、利用者を選別できないオープンウェイトモデルへ移れば、同じ能力がはるかに広範な利用者の手に渡る。
開発の現段階で、GLM-5.2のようなモデルがもたらす最大のリスクは、エンドユーザーによる悪用である。利用者はGLM-5.2のモデルデータをダウンロードし、ローカルのハードウェア上で動かせる。OpenAIやアンソロピックのフロンティアAIモデルに設けられた利用者審査、監督、コンテンツモデレーションを受けないため、悪意ある活動に使われる余地が大きい。
例えば米国の強力なモデルは、Mythos 5なら「Project Glasswing」、OpenAIのGPT-5.5-Cyberなら「Trusted Access for Cyber」を通じ、選定された組織や研究者に利用が限られている。ダウンロード可能なオープンウェイトモデルには、こうした利用者を選別する仕組みがない。それだけ悪用に開かれている。
AIデータクラウドプロバイダーSnowflakeの最高セキュリティ・トラスト責任者であるマヤンク・ウパディヤイは、次世代AIモデルの脆弱性発見能力だけでなく、そうした能力がオープンウェイトモデルに移っていくことにも懸念を示した。
「私が懸念しているのは、オープンウェイトモデルの能力もますます高まっていることだ」とウパディヤイはビデオインタビューで語り、GLM-5.2とその長期的能力に言及した。「オープンウェイトが追いつくまでの時間がどれだけあるのかを懸念している」。
フロンティアラボがMythos 5やGPT-5.5-Cyberのようなツールを比較的管理された環境に置いている一方で、オープンウェイトモデルは今後、悪用のリスクを高める可能性が高い。「魔法のランプから精霊が出てしまうまでには、まだ少し息つく余地がある。だからこの猶予を使い、できるだけ多くの問題を先手を打って発見し、修正すべきだ」とウパディヤイは述べた。
