米上院小委員会は、OpenAIの自律型エージェントが今年7月にAIモデルのホスティングプラットフォーム「Hugging Face」へのハッキングを試みた事件について調査に乗り出した。競合する最先端のAI研究機関に所属する専門家らを含め、業界の多方面からAIの安全性に対する警鐘が鳴らされるなかでの動きとなる。
米上院小委員会、OpenAIのHugging Face侵入事件を調査
アクシオスが米国時間9月10日午前にこの調査を最初に報じた。同報道は米上院国土安全保障委員会の災害管理小委員会で委員長を務めるジョシュ・ホーリー上院議員（共和党）の書簡を引用しており、同議員はOpenAIに対して10月1日までに事件に関する質問への回答と関連文書の提出を求めている。
OpenAIのサム・アルトマンCEO宛てに送付されたこの書簡は、AIエージェントが外部サイトの掲示板を利用して連携している事実を把握した後も同社がテストを続行したことを批判している。ホーリーはこの判断を「無謀」だと非難し、OpenAIが事件について「限られた情報」しか公開していないことに疑問を呈した。
外部監査人は、攻撃の大半に関与した「持続性の高い社内モデル」を直接検証できず
書簡はまた、事件から約1カ月後に発表された外部監査人による報告書の結果にも疑問を投げかけた。攻撃の大半に関与したとみられる「持続性の高い社内モデル」へのアクセスや照会が監査人らに許可されていなかったと同文書では主張されているためだ。
同小委員会の民主党トップであるリチャード・ブルーメンソール上院議員もアルトマンに独自の書簡を送付した。OpenAIの新たなAIモデル「Astra」の能力や、自社のモデルが他のウェブサイトを乗っ取っている事実を同社がいつ把握したのかについて回答を要求している。
フォーブスはOpenAIにコメントを求めたが、現時点で返答は得られていない。
AIの安全性を巡る警告が相次ぎ、重要インフラへの影響を問う
ホーリーの書簡は同社への調査を告知するだけでなく、ここ数日でAI専門家からの警告が急増している点にも言及した。今週初め、アンソロピックの元研究者は、自社で研究中の技術が「全人類を殺す」確率が10％あると見積もり、AIを人間の価値観と合致させる「アライメント」の問題を解決する術が同社にはないと指摘したばかりだ。
ホーリーは9日にOpenAIへ送った書簡の中で、同社の研究者であるヤクブ・パチョツキが6日に発表した長文の声明を引用し、「あなた方のチーフサイエンティスト自身が数日前に『責任を持って最高速度で規模を拡大し続けられるほど、アライメントと監視に関する問題を十分に解決できている研究機関はどこにもない』と書いているではないか」と指摘した。
