フロリダ州の司法長官は、OpenAIが「第三者の承認を受けたガードレール（安全対策）」を導入するまで、新たなAIモデルの開発を差し止めるよう裁判所に求めた。対話型AI「ChatGPT」に関連する注目を集めた事件や、サム・アルトマンCEO自身を含むAI企業幹部らによる発言がその根拠として挙げられている。
「安全」とうたう宣伝も禁止、未成年者のChatGPT利用停止を要求
また同州は、OpenAIが自社製品を「安全、正確、または信頼できる」と宣伝することの禁止も求めた。さらに、チャットボットを擬人化することや、ユーザーとの会話を不必要に長引かせる機能を持たせることも差し止めるよう要請した。
加えて、OpenAIが13歳未満のユーザーのデータ収集に関する連邦法およびフロリダ州法に違反したと主張し、未成年者によるChatGPTの利用を禁止することも求めている。
銃乱射やAIの不正アクセスを列挙、アルトマンに「減速が本心なら、賛同できるはずだ」と迫る
フロリダ州の検察当局は提出書類の中で、ChatGPTを「無謀で、容認できないほど危険な製品」と非難した。カナダでの銃乱射事件の計画に利用された疑惑や、フロリダ州での殺人事件に関連する質問に回答したことなど、注目を集めた悪用事例を引き合いに出している。
今回の申し立てでは、今年夏に発覚したHugging Face（ハギング・フェイス）へのハッキング事件や、OpenAIの自律型エージェントがオーストラリアの国民医療データベースにハッキングしたという最近の事件も引用されている。
さらに、AIの安全性に関するアルトマン自身の過去の発言や懸念も引用された。フロリダ州のジェームズ・ウスマイヤー司法長官はビデオ声明でこれらの懸念に直接触れ、「サム・アルトマンが開発の減速について語ったことが本心であるなら、我々の裁判所への要請に彼も賛同できるはずだ」と迫っている。
最高性能モデルの学習を一時停止したOpenAI、再開は安全策を講じた後
OpenAIの広報担当者であるドリュー・プサテリはフォーブスの取材に対し、「当社は（米国時間）9月25日、最も高性能なモデルの学習を一時停止し、追加の安全策が整ったと確信できた場合にのみ再開すると発表した」との声明を出した。また、業界全体に向けた「実用的なAI政策」の策定に向けて、フロリダ州など各州政府と協力する姿勢も示している。
AI企業の元社員が人類滅亡を警告、アルトマンは減速に同意し上場も見送り
フロリダ州の提出書類には、多数のAI業界関係者の発言が引用されている。その中には、各界からのAIの安全性に対する警告を引き起こすきっかけとなった、元アンソロピック社員のジェイコブ・コクソンの発言も含まれている。
コクソンは今月上旬、「AIを開発している当事者たちは、AIが2030年までに人類を滅亡させる可能性があると本気で信じている。これは単なる話題作りのための宣伝文句ではない」と記していた。
ハギング・フェイスへのハッキング事件から数カ月後、アモデイが最先端のAI研究機関に対し、安全対策を実装できるようになるまでAI開発を遅らせるよう求めるエッセイを発表すると、アルトマンもこれに同調した。アルトマンは安全上の懸念を理由に、OpenAIが2026年に予定していた上場計画を一時見合わせるとまで発言しており、9月23日には国連安全保障理事会でもこの問題について演説を行っている。
