AI

2026.08.30 13:00

AI開発者が警告する「第2のマンハッタン計画」、制御不能なAGIの脅威

Kristina Blokhin - stock.adobe.com

第一に、強力で中央集権的、かつ大規模な規制能力を構築する必要がある。それは米連邦取引委員会(FTC)のような既存の機関に置くこともできれば、新設される独立した組織とすることもできる。この任務の膨大さと複雑さ、そして賭けられているものの大きさを考えれば、これを安価に行うことはできない。米連邦航空局(FAA)は4万4000人、米食品医薬品局(FDA)は1万6000人、米環境保護庁(EPA)は1万2000人の職員を擁している。これらの新しいテクノロジーのあらゆる側面を規制することも同様に複雑であり、任務を遂行するためには十分な人員が必要となる。

advertisement

第二に、これらの規制機関が効果的に機能するためには、十分な資金力と規制権限が必要となる。規制機関は、テクノロジー企業がどのように業務を行っているかをより深く理解し(例えば、アルゴリズム、トレーニング、テストのプロセスへのアクセスなど)、そのビジネスモデルが依存症を引き起こしたり、公衆の健康や安全を脅かしたりしていないかを評価するために、企業側からのさらなる透明性を確実に必要とするだろう。

最後に、これらの規制機関は、これらの新しいテクノロジーのさまざまな側面を公正に規制し、有意義な説明責任をもたらす適切な救済策を規定するために、実質的なパフォーマンス基準と評価指標を開発する必要がある。

例えば、アモデイが提案しているように、政府は「Mythos」や「Gemini 4」のような新しいテクノロジーが公開される前に、それらが公共の領域に深刻なリスクをもたらす可能性があるかどうかを評価し、公開前にそれらの問題を修正するために企業に設計のやり直しを強いることができる恒久的な能力を持つ必要がある。これらはすべて、イノベーションや競争を阻害することなく、企業の財務的利益と広範な公共の利益のバランスを取る形で行われなければならない。

advertisement

このような規制能力を構築することは、米国がフロンティアAIに関する信頼できる国際合意を推進するための確固たる基盤を与えることにもなる。具体的には、1000人以上のAI研究者が提唱しているように、例えばフロンティア開発の「ペースを調整する」ための中国との二国間合意の交渉が容易になる。米国自身がそうした取り組みを行っていない中で、中国政府に対して開発を減速し、研究所を査察に開放するよう求めたところで、米国政府の主張は説得力を欠く。

1945年、マンハッタン計画に懸念を抱いていたシラードと他70人の科学者たちは、行動を起こす権限を持つ唯一の人物に警告を発しようとし、日本が降伏を拒否しない限り原子爆弾を使用しないようハリー・トルーマン大統領に促す嘆願書に署名した。

彼らは自分たちが何を作り上げ、それが何をもたらすかを理解していた。しかし、彼らの嘆願書がトルーマンの机に届くことはなかった。今日のAI技術者たちは、自分たちが何を作り上げたのか、あるいはそれが何をもたらすのかを誰も完全に理解していない段階から、より早く、より大きな声で自ら警告を発している。核兵器のときのように、確実な事実が判明するまで規制を待つとすれば、リスクが現実化する前に行動を起こすための二度目のチャンスは訪れないかもしれない。

forbes.com 原文

タグ:

advertisement

ForbesBrandVoice

人気記事