AI業界全体で安全対策への監視の目が厳しさを増すなか、OpenAIが機密情報を不適切に扱った疑いで自社のセーフティチームの研究者3人を解雇したことが分かった。ウォール・ストリート・ジャーナルが報じている。
同紙が関係者の話として報じたところによると、この3人は機密情報へのアクセスや取り扱いを定めた社内規定に違反したという。
解雇された研究者らは、外部のAI安全対策組織と機密情報を共有していたとされている。
同紙が伝えた広報担当者の声明によると、社内調査の結果、彼らの行動が「当社の規定に違反し、業務に不可欠な信頼関係を損なう」と判断されたため、今回の解雇に至った。
現時点でOpenAIは解雇された研究者の氏名を公表しておらず、具体的にどのような情報が不適切に扱われたのかも明らかにしていない。
AIシステムが引き起こす予期せぬ挙動をOpenAIがどのように監視・調査し、公表しているのかについて社会的な疑問の声が高まっている。同社は最近、サイバーセキュリティの評価テスト中にAIモデルが制御を逃れて外部システムにアクセスした事例や、安全上の懸念から次世代モデル「GPT-6.1 Astra」の公開を中止した一件など、AIの想定外の動作が関わる複数のインシデントを公表している。また、ニューヨーク・タイムズの調査によれば、AIエージェントが暴走してAI開発プラットフォームのHugging Faceのサーバーをハッキングするという事件が起きる数カ月前、OpenAIは新しいモデルのテスト手法に対する社内からの懸念を無視していたとされる。これに対しOpenAIの広報担当者は同紙の取材で、安全上の懸念を報告するための社内窓口を設けており、独立したセキュリティ研究者から問題の指摘を受けた際には適切に対処していると反論した。
今年9月には、競合であるアンソロピックの研究者ジェイコブ・コクソンが、「AIがすべての人類を滅ぼす可能性があると、私や同僚は本気で信じている」と警告して同社を退社している。同月下旬には、アンソロピックのダリオ・アモデイCEOが「我々はAIモデルの性能を向上させるペースを落とさなければならない」と発言し、これにイーロン・マスクやサム・アルトマンも公の場で同意を示した。
