メタのマーク・ザッカーバーグCEOは米国時間9月15日、AI企業には「重大な法的責任」を回避するために自社モデルの安全性を確保する「自然なインセンティブ」があると主張した。また、エヌビディアのジェンスン・フアンCEOもこれに同調し、企業は安全性とスピードの両方を追求できると論じた。アンソロピックやOpenAIが発したより深刻な警告に対する反論を展開した形だ。
ザッカーバーグが減速論に反論、AI各社には安全を守る動機がある
ザッカーバーグはXへの長文の投稿で、人々は「自分たちの意図と合致せず（中略）要求した通りに動かない」AIエージェントを使用することはないと述べ、企業にとってはこのことがアライメントを推進するための「強力で自然なインセンティブ」になると語った。
AIの機能開発を減速させるよう求める動きについてザッカーバーグは、「信頼とアライメント」こそが最も重要な機能であり、これに失敗した企業は後れを取ることになると述べた。
ザッカーバーグは、メタが安全性を確保するために新しいパーソナルAIエージェント「Muse」のリリースを「数カ月間」延期したことに触れ、「みずからが実行する前に、他のすべての企業にも同じことをするよう求めたりはしなかった」と主張した。
業界協調に否定的なザッカーバーグ、独立した評価機関の起用には賛成
さらに彼は、「すべての研究機関には、みずからのモデルを安全に訓練できるペースで開発を進める責任と、そうすることへのインセンティブがあり、それを確実にするための独自のアクションを起こす能力がある」と指摘し、AI企業が安全性を確保するために歩調を合わせる必要があるという主張を否定した。
ただし、ザッカーバーグは独立した評価機関やアドバイザーを関与させること（これはアンソロピックとOpenAIも推進している）については支持しており、メタもすでにいくつかの分野でこれを実施していると述べた。
