エヌビディアは米国時間9月28日、AIエージェントがテスト環境を突破して外部システムに不正アクセスするのを防ぐ新たなセキュリティシステムを発表した。ジェンスン・フアンCEOは数週間前、AIの安全性に対する懸念を一蹴し、AI開発を減速させる必要はないと反発したばかりだった。
エヌビディアがAI安全基盤を公開、OpenAI製AIの侵入も防げたと語る
同社によると、今回発表された「Open Agent Safety Platform」は、テストおよび導入段階のAIエージェントのセキュリティ向上を目的としたシステムだ。同社は「最近発生したセキュリティ・インシデント」により、AI企業が長期稼働するエージェントをより厳密に制御するためのシステムの必要性が浮き彫りになったと説明している。
特定のインシデントへの言及は避けられているものの、エヌビディアの担当者は複数のメディアに対し、この新しいプラットフォームがあれば、今年7月に発生したOpenAIのエージェントによるHugging Face（ハギング・フェイス）へのハッキング事件なども防げた可能性があると語っている。
この新システムは2つの要素で構成されている。CPU上で稼働し、エージェントの行動範囲を設定できる「Nvidia OpenShell」と、自社製チップのBlueField上で稼働し、設定された境界を越えようとするAIの試みを隔離・停止できる「Sentry」だ。
協力企業にOpenAIはなく、アンソロピックとは安全対策で協業
同システムの導入企業として、マイクロソフト、パランティア、ハギング・フェイス、スペースXAI、クラウドストライクなどの名が挙げられたが、OpenAIへの言及はなかった。また、エヌビディアはアンソロピックとの提携も明らかにしており、同社のAIモデル「Claude」の基盤にさらなるセキュリティと制御の層を追加するという。
フアンはAI企業に対する政府の規制強化に反対、トランプに同調
フアンはこれまで、AI企業に対する政府の規制強化や、最先端AIの開発を減速させるべきとの考えに強く反対してきた。今月初めに開催されたセールスフォースの年次イベント「Dreamforce」では、AIの安全性と開発スピードの二者択一は「誤り」だと指摘。「間違いなく両方を同時に実現できる」と語ったうえで、「新たな法律も、新たな規制も必要ない」と主張していた。
また、サンフランシスコで開催されたAll-In Summitのステージ上でドナルド・トランプ大統領からの電話を受けた際にも、フアンはAIの安全性への懸念はでっち上げだと切り捨てる大統領に同調した。この通話でトランプは、AIやデータセンターの建設に反対する人々は中国の「思うつぼ」になっていると主張し、「我々はそんなことを許さない」と述べた。
フアンも「その通りです。そんなことは許しません」と応じた。最先端のAIが2030年までに人類を絶滅させるのではないかという懸念についても、フアンはCBSニュースに対し、その可能性は「0％だ」と断言している。
資産約31兆円で世界7位、エヌビディアは時価総額約867兆円
推定資産額1949億ドル（約31兆1800億円）のフアンは現在世界で7番目の富豪に位置している。彼が率いるエヌビディアは時価総額5兆4200億ドル（約867兆円）を誇る世界最大の企業だ。
