AI

2026.08.30 13:00

AI開発者が警告する「第2のマンハッタン計画」、制御不能なAGIの脅威

Kristina Blokhin - stock.adobe.com

現在繰り広げられている開発競争における主たる対立軸は米国対中国であり、時代と状況は違えどその構図はマンハッタン計画当時と酷似している。戦時中の敵と兵器開発を競うことと、経済的・技術的な競合相手とプラットフォームの開発を競うことは、同じではないものの、その論理は共通している。すなわち、「迅速に行動せよ、さもなければ他の誰かが先に到達する」というものだ。

advertisement

現在の合言葉は、人間の認知能力と同等かそれを上回り、まったく新しく不慣れな状況に適応できるコンピューターシステムである「AGI(汎用人工知能)」の開発において、米国の企業が中国よりも先に到達しなければならない、というものだ。

それでも、これらの新技術の開発を牽引する米国企業、特にAnthropic(アンソロピック)やOpenAI(オープンAI)は警鐘を鳴らし、政府による監視の強化を求めている。2026年6月には、Anthropicの共同創業者兼CEOであるダリオ・アモデイが最も踏み込んだ提案を行い、フロンティアAIモデルに対する政府の第三者機関によるテストを推奨した。しかし、これらの企業はいずれも、新技術全般を規制するための管轄権、人員、資金を備えた強力な連邦規制機関の創設を積極的に支援してはいない。あまりにも巨額の資金が動いており、どの企業も取り残されたくないからだ。

そしておそらく最も重要なことは、シリコンバレーの文化が極めてリバタリアン(自由至上主義的)であることだ。

advertisement

ピーター・ティールやイーロン・マスク、マーク・ザッカーバーグといったテクノロジー界のリーダーたちは、自らを地球上で最も賢い人間だと考えている。ティールはかつて、民主的な政府による規制への取り組みによってイノベーションの自由が損なわれていると書き、「自由と民主主義はもはや両立しない」と結論づけた。一部の外国政府や欧州連合(EU)、米国のいくつかの州が、特に子供の保護に焦点を当てた規制モデルの策定に着手している一方で、米国政府は行政の裁量による規制を好んできた。このアプローチは、明確さではなく不透明さと恣意性を生み出しがちである。これにより、効果的かつ一律の規制を行うことは事実上不可能になっている。

トランプ政権下で本格的な連邦規制が実現する可能性はほぼないが、だからこそ今こそ、真に必要な規制が何であるかの大局的な青写真の策定を開始し、政府が行動を起こす準備が整う日に備えるべき時である。この青写真は、3つの基本原則を中心に構築される必要がある。

次ページ > 強力で中央集権的な規制能力を構築する必要がある

タグ:

advertisement

ForbesBrandVoice

人気記事