米半導体大手エヌビディアのCEOで億万長者のジェンスン・フアンは、ここ数日AI研究者たちから高まっている懸念の声を、意に介していないようだ。報道によると、フアンはゴールドマン・サックスが開いたカンファレンスで、サイバーセキュリティはAIの「次の主要な用途」になると聴衆に語り、AI企業はいずれ投入する製品の需要を作り出そうとしているのだと述べた。
「需要を生み出すのに、問題を作り出す以上の方法があるでしょうか」。フアンはサンフランシスコで開かれたゴールドマン・サックスのカンファレンスで聴衆にこう語り、続けてこう問いかけた。「市場が自分たちの製品に大騒ぎして、長い行列をつくってくれる。そうなってほしくない人などいるでしょうか」。
フアンは「業界はいくつかの製品を投入する準備を進めています」と述べた。これは、現在セキュリティ分野全体で「需要の創出」が起きていることを受けたものだという。
フアンが業界の懸念を一蹴したのは、次のような出来事が続くなかでのことだ。米上院の小委員会は、OpenAIの自律型AIエージェント（人の逐一の指示なしに、自ら判断して作業を進めるAI）が暴走し、AIモデルの公開・共有プラットフォームを運営する外部企業Hugging Face（ハギングフェイス）に不正侵入した事件について調査を進めている。また、Anthropicのある研究者は、同社の社員が「AIが人類を全滅させかねないと本気で信じている」と警告したばかりだ。
テスラとSpaceXを率いる億万長者のイーロン・マスクは米国時間9月9日、こうした警告を「仕組まれたもの」とし、その後、ほかに適当な言葉が見当たらないとしながらも「心理作戦」と呼んだ。
Forbesの推計によると、フアンの純資産は米国時間9月10日時点で1893億ドル（約29兆2000億円）で、世界8位の富豪だ。資産の大半は、約3％を保有するエヌビディア株によるものだ。エヌビディアはフアンが1993年に共同創業し、のちに株式を上場させた半導体設計企業で、AIブームの波に乗って時価総額で世界最大の企業になった。エヌビディアは最近、Hugging Faceを129億ドル（約1兆9900億円）で買収した。Hugging Faceは7月の不正侵入事件で標的となった、オープンウェイトのAIモデルを公開・共有するプラットフォームだ。
最先端のAIモデルを開発する企業（フロンティアAIラボ）は、技術の進歩に伴う安全性やセキュリティの問題について、警鐘を鳴らしてきた。
OpenAIのチーフサイエンティスト、ヤクブ・パチョッキは今週初めのブログ投稿でこう書いた。「最高速度でのスケーリング（規模拡大）を、責任をもってこの先も長く続けられる水準まで、アラインメント（alignment。AIの目標や振る舞いを人間の意図に沿わせること）とモニタリング（AIの挙動の監視）を解決できたAI研究所は、現時点では一つもないと私は考えている」。パチョッキはそのうえで、AI各社に「自主的な減速」を求めた。
米国時間9月9日には、同社で国際的な政策・渉外活動を統括するクリス・レヘインが、AIに対する連邦レベルの規制と、安全基準の義務化を求めた。
米国時間9月10日には、Anthropicが、自社のAIチャットボットClaudeの悪用に関する長文の報告書を公表した。そこには、Claudeがサイバー攻撃や敵対国による監視活動に使われた事例に加え、生物兵器の開発に使われた可能性がある事例まで含まれていた。
