AIによる人類滅亡説が広まったきっかけ
OpenAIとアンソロピックの両社で研究者を務めたジェイコブ・コクソンは先週、辞職を公表した上で、AI企業が適切な安全網を設けないまま自己改善型超知能の開発競争を繰り広げていると警告し、これが大きな波紋を呼んだ。彼は、これらのツールを開発している当人たちが「2020年代が終わるまでにAIが我々全員を殺す可能性があると本気で信じている」と述べ、「（最先端のAI研究機関は）我々の命を弄んでいる」と非難した。
アンソロピックでアライメント科学部門トップを務めるエヴァン・ハビンジャーもコクソンの警告に同意し、人間の意図と合致しないAIによって今後10年以内に人類が滅亡する確率は10％以上あるとの見方を示した。グーグル・ディープマインドの元研究員であるアレックス・ターナーも14日、AIが人類の文明を乗っ取る確率は「およそ3分の1」に上ると考えていると語った。
ディープマインドとアンソロピックで安全性に関する研究をしていたジョシュ・エンゲルスとジョー・ベントンも、開発のスピードが規制当局の監視を上回っていると警告している。エンゲルスは「（この業界の中に）責任のある大人は誰もいない」とし、「誰も我々を救いには来ない」と危機感をあらわにした。
一方、革新的なツールが人類存亡の危機と見なされてきた例は過去にも多くある。AIにまつわる今回の「テクノロジー・パニック」も、活版印刷や計算機、インターネットに対するかつての恐怖と同じように、いずれ忘れ去られると主張する声もある。識者らは、生徒が基本的な計算能力を失うと危惧して電卓に抗議した数学教師や、出所不明の混乱を招く情報が世界に溢れ返ると恐れた活版印刷の初期の反対派を引き合いに出す。
神話に登場する古代エジプト王タムスが文字を発明した神トートを批判し、人々がみずからの記憶ではなく外部の記録に過度に依存するようになり、「学ぶ者の心に忘却をもたらす」と嘆いたという逸話は有名だ。1990年代から2000年代初頭にかけても、グーグルが人間の記憶力を衰えさせ、ウィキペディアが調査能力を破壊すると主張する批判者が溢れていた。
しかし、ソフトウェア・エンジニアのサイモン・ウィリソンは、大規模言語モデル（LLM）を「言葉にとっての計算機」と呼び、これらが単調な作業を引き受けることで、人間の思考は構成や論理、意図の構築に集中できるようになると主張している。著名投資家のマーク・アンドリーセンは、AIを火の発見と並ぶ技術的進化に例え、それは人間の主体性を奪うものではなく生産性を増幅させるものだと述べた。
