OpenAIは2023年に、超知能の検査・監査を担う国際機関を提案
国際的な監督機関をつくる構想には、以前からの議論の積み重ねがある。2023年5月、アルトマン、OpenAI社長のグレッグ・ブロックマン、当時の主任科学者イリヤ・サツケバーは、超知能の開発にはIAEAのような組織が必要になる可能性が高いと記した。想定した組織は、AIシステムを検査し、監査を義務づけ、AIの計算資源とエネルギー使用量を追跡する。
3人は「第1段階として、企業は将来そのような機関が求める措置の一部を自主的に導入することに合意できる。第2段階では、各国が同様の措置を導入できる」と説明した。
新モデルの検査担当を巡り米AI企業が対立、米中間の事故通知も合意に至らず構想段階
2026年には、競合するAI研究所がそれぞれ独自の枠組みを提案している。報道によると、OpenAI、グーグル、アンソロピック（Anthropic）は、米国で新組織の設立を進めている。名称は「Standards Authority for Frontier AI（フロンティアAI標準局）」だ。ただし、新しいAIモデルを誰が検査するのかについては、3社の意見が一致していない。
国際的な監督機関を実現するには、中国の参加も必要だ。中国の習近平国家主席は2026年9月24日、ドナルド・トランプ米大統領に対し、AIを人間の管理下に置くため、米中には能力と責任があると述べた。国家安全保障を脅かす恐れのあるAI事故を相互に通知する米国案は、合意に至らず構想段階にとどまっている。アンソロピック共同創業者のジャック・クラークは、国際通貨基金（IMF）と世界銀行の会合で、行動に残された時間は数年しかなく、猶予は短くなっていると述べた。
米政府の要請を受け、AIモデルの提供を停止・制限
アンソロピックは2026年6月、米政府の指示を受け、全顧客によるAIモデル「Fable 5」と「Mythos 5」へのアクセスを停止した。アンソロピックは、AIの安全制限を回避する「脱獄（ジェイルブレイク）」の可能性が限定的にあるだけでは、提供済みの商用AIモデルを利用停止にする理由にはならないと反論した。その2週間後、OpenAIは政府の要請を受け、「GPT-5.6」の提供を少数の提携先に限定した。OpenAIは、この種の制限を常態化させるべきではないとも述べた。
公開前の政府アクセス要請と、法的責任を伴わない6社の自主協定
米連邦政府が採用しているのは、自主的な対応を求める枠組みだ。2026年6月の大統領令では、開発企業に対し、対象となるAIモデルの公開前の最大30日間、政府がモデルにアクセスできるよう求めている。ただし、10月13日時点で枠組みの全文は公表されていなかった。
9月29日には、アンソロピック、グーグル、メタ（Meta）、OpenAI、エヌビディア、スペースXAI（スペースSAI）の幹部が自主的な協定に署名した。トランプは協定に「道徳的拘束力」があると表現したが、違反した企業に法的責任を負わせる仕組みではない。
国際協調と企業競争の板挟み、OpenAIは1年以内に安全管理の方針を決める
最先端AIの開発競争は、規制づくりより速く進んでいる可能性がある。アルトマンは従業員に対し、国際的な監督機関の設立と主要研究所の統合には、大規模な協調が必要だと語ったという。OpenAIとアンソロピックがIPO（新規株式公開）へ向かう中、OpenAIは競争で後れを取る余裕がないとも説明したとされる。
メタのマーク・ザッカーバーグやエヌビディアのジェンスン・フアンを含む批判派は、新たな規則が最大手AI開発企業の優位な立場を固定すると主張している。それでもアルトマンは、超知能の開発競争において、OpenAIが安全確保のためにどのような方針を採るか、1年以内に決める必要があると述べた。AI業界、米政府、中国政府が共通の方針に合意するまでは、利用者は最先端AIモデルの公開の遅れや段階的な提供、一部の提携先への先行提供を想定しておく必要があるかもしれない。
