億万長者、元ホワイトハウス高官、著名なAI研究者、ノーベル賞受賞者、英王室メンバー、右派系メディア関係者など、数百人の著名人が「スーパーインテリジェンス」の開発禁止を求める請願に署名した。「スーパーインテリジェンス」とは、人間の認知能力を上回ると予想される高度な人工知能を指す。
この請願は、非営利団体フューチャー・オブ・ライフ・インスティテュート（Future of Life Institute、同団体のウェブサイトはイーロン・マスクを外部アドバイザーとして挙げている）が主導し、「スーパーインテリジェンスの開発禁止」を求めている。
請願は、この停止措置（モラトリアム）を「安全かつ制御可能に実施できるという幅広い科学的合意」と「強い公共の支持」（public buy-in）が得られるまで維持すべきだとしている。
水曜朝の時点で、ヴァージン・グループ創業者リチャード・ブランソン、アップル共同創業者スティーブ・ウォズニアック、サセックス公爵夫妻のハリー王子とメーガン妃ら、850人の公的人物が請願に署名した。
右派系メディア関係者のグレン・ベックとスティーブ・バノンも確認済みの署名者として記載され、さらにドナルド・トランプ前大統領の顧問を務めた福音派指導者ジョニー・ムーアも名を連ねた。
複数の著名なAI研究者や科学者も署名しており、「AIのゴッドファーザー」と称されるヨシュア・ベンジオとノーベル賞受賞者ジェフリー・ヒントン、カリフォルニア大学バークレー校のスチュアート・ラッセル（AIに関する最も影響力のある教科書の共著者）が含まれる。
元米国家安全保障担当大統領補佐官のスーザン・ライスと、元統合参謀本部議長のマイケル・マレンも、著名な元政府高官として請願に署名した。
署名者たちは何と言っているか
ヨシュア・ベンジオは、署名に添えた声明で次のように記した。「フロンティアAIシステムは、わずか数年で、ほとんどの認知課題において大多数の個人を上回る可能性がある……スーパーインテリジェンスへ安全に前進するには、不整合や悪意ある利用によるものかを問わず、人を害することが本質的に不可能なAIシステムをどう設計するかを科学的に確定しなければならない。また、私たちの集合的な未来を形づくる意思決定に対し、一般の人々がより強い発言権を持てるようにする必要がある」。
スチュアート・ラッセルは、この請願は「通常の意味での禁止や、さらにはモラトリアムを求めるものではない」とし、むしろ「その開発者たちの発言によれば、人類絶滅を引き起こす重大な可能性がある技術に対し、適切な安全対策を要求する提案だ」と述べた。
2023年3月、フューチャー・オブ・ライフ・インスティテュートは「巨大AI実験」の一時停止を求める別の請願を公表し、イーロン・マスクを含む、今回の請願にも署名した複数の人物が署名した。現在、自身の企業xAIの下でAIイニシアチブを率いるマスクは、最新の請願にはまだ署名しておらず、参加するかは不明である。同団体のウェブサイトは、マスクを外部アドバイザーとして掲載し、同氏が「高度なAIの潜在的リスク」を強調してきたと記している。同研究プログラムは2015年に開始され、マスクからの1000万ドル（15億2400万円）の寄付によって支えられた。
