あらゆるタスクを人間と同等かそれ以上にこなす汎用人工知能（AGI）は、10年以内に登場する可能性があるという。マサチューセッツ工科大学（MIT）やハーバード大学といったエリート校では、AGIが人類に牙を剥くことを防ぐため、学校を捨てフルタイムの仕事に身を投じる大学生が現れている。
AGIは「人類を滅ぼす」か？ トップ大学の学生が抱く危機感
2023年、アリス・ブレアがMITに入学したとき、コンピューターサイエンスの授業を通じて、人工知能（AI）を前向きな方向に活用することに関心を持つ人たちと出会いたいと考えていた。
しかし彼女は現在、大学を永久休学中（事実上の退学）だ。AGIが出現し、人類を破滅させるかもしれないと恐れているからだ。
「私は、AGIのせいで卒業まで生きられないかもしれないと考えた。今のAGI開発の進め方では、大多数のシナリオで人類は滅亡すると思う」と、カリフォルニア州バークレー出身のブレアは語る。彼女はすでに、AIの安全性の研究に取り組む非営利団体「Center for AI Safety」で、ニュースレターや論文を作成するテック系ライターとして契約を得ている。ブレアは、MITに戻るつもりはない。「私の将来は現実世界にあると考えている」と彼女は述べている。
AIが意識を持ち、人類を不要と判断する。そんな破滅的な未来を恐れる学生はブレアだけではない。米国務省が2024年に委託した報告書では、AIの開発スピードを踏まえれば「人類の絶滅級のリスク」はありえると指摘していた。こうした事態を防ぐため、安全対策を組み込んだAIの開発は近年急速に広がっており、ビリオネアが資金を出す「Center for AI Safety」のような非営利団体や、Anthropic（アンソロピック）のような企業が取り組みを進めている。
ただし、その前提に異を唱える研究者は多い。「人類絶滅は極めて可能性の低いシナリオだ」と、心理学とAIの境界領域を研究するニューヨーク大学名誉教授のゲーリー・マーカスはフォーブスに指摘した。「しかし、現状でほとんどの研究が明確な答えを出せていない中で、AIの安全性に取り組むことには意義がある」と同教授は続けた。
「AIがもたらす最悪の事態を防ぐ」という使命感。それこそが、若者たちに大学を離れる決断を促しているのだ。
