この2週間を仏教の瞑想リトリートで過ごしていない限り、今後10年ほどで私たちが地球上から姿を消す確率は10〜65%のどこかにある、しかもそれはAIによってもたらされる、という話を耳にしたことがあるだろう。要するに、人類は種として非常に賢かったため、自分たちよりも賢いものを作り出すことに成功したが、残念ながらそれが私たちを排除するかもしれない、ということだ。ChatGPT自身の推定（下記参照）によれば、その確率はわずか1%である（数日前に尋ねたときの5%から低下した）。もっとも、このテーマに関して最も中立的な情報源とは言い難い。
一方で、人類の未来をめぐる終末論的、ディストピア的な予測は決して新しいものではない。聖書の預言やノストラダムスから、ハレー彗星、核による壊滅、人口爆発、Y2K、マヤ暦の終末論に至るまで、人間は何世紀にもわたり自らの絶滅を予言し続け、そのたびに次の終末を心配できるほど長く生き延びてきた。
他方で、こうした予測がこれほど世間の注目を独占したことも、問題の技術を実際に構築している科学者、エンジニア、起業家、投資家の多くによって、これほど真剣に語られたこともかつてなかった（たとえば、無名の宗教的カルトや無政府主義的な一派とは異なる）。実際、ノストラダムスやマヤ暦とは違い、AIは預言ではなく、急速に進化する技術である。その能力が目に見えて高まっており、将来の軌道は本当に不確実であり、その開発は巨大な商業的・地政学的インセンティブによって推進されている。
より重要なのは、AIが自発的に人類を破壊しようと決断するのではなく、自律性と能力を高めた諸システムを理解・制御することが困難になり、人間の利益との整合性を保つことが難しくなるかもしれない、という懸念だ（これは古典的なAIアライメント問題にあたる）。スカイネットを信じる必要はなくとも、この点を踏まえれば、今回の終末シナリオは過去の人類滅亡予言よりもはるかに注目に値するといえる。
個人的には、こうした予測にはいつも戸惑いを覚えてきた。ただし、多少のためらいを伴わないわけではない。第一に、科学者として、私は予測への欲求、そして会話全般を、データが存在する領域に限定したいと考えている。未来に関するデータを持つ人は誰もおらず、人類の終焉を予測するために外挿や投影に使える過去のデータに近いものも存在しないため、私たちはほとんど純粋な憶測に限られる。第二に、良く言って懐疑主義者、悪く言えばシニカルな性向を持つ身としては、AIをめぐる終末警告の背後にありそうな明白な動機を無視するのは難しい。「この技術はあまりに強力なので、他のことは何も重要ではない（あなたが注目すべき唯一の対象は私たちだ）」「私たちはまだAIを収益化できていないが、安全で倫理的なものにするためにはさらに資金が必要だ」（さらなる研究開発資金の要請）、「AIが引き起こすあらゆる害や破壊は、その背後にいる人間や企業ではなく、AIだけの責任である」（魔物は瓶から出てしまい、私たちには制御できないのだから）といったものだ。第三に、こうした予測の多くは、それ自体が注目を集めるための試みであり、その結果、ニュアンスや節度、バランスへの需要は低下する。たとえば、AIは多くの異なる技術を包含する広いカテゴリーであり、インターネットと同じように、良いものもあれば悪いものもある、と誰かが言ったなら、人々の関心を失うことは確実である。
ピーター・ティールは指摘している。極端な楽観主義と極端な悲観主義は、どちらも行動しないことにつながるという意味で、基本的に同じコインの表裏である。すべてがうまくいくなら、何かをする意味はどこにあるのか。すべてがひどいことになるなら、何かをする意味はどこにあるのか。その意味では、AIに対して少なくともある程度の悲観主義を示すことは論理的である。素朴に楽観的でいることや、決定論的に破滅的な見方を採用することに比べればなおさらだ。しかし問題は、私たちのほとんどが、AIやそれを前進させる力を止めるために現実的にできることがほとんどないという点にある。これは、ユヴァル・ハラリが『ホモ・デウス』（2015年）で示した予言的な観察と大筋で一致している。すなわち、未来は少数のスーパーコンピューターへの特権的アクセスを持つ、小規模で強力なエリートに支配され、彼らがますます知能を高める機械を管理し、私たち残りの人間はほとんど無関係な存在になるかもしれない、という見方である。
もっとも、単に予測で注目を集めるだけでなく、予測を的中させたいのであれば、AIや人間の暗黒面といった要因で世界が終焉すると予測するよりも、終焉しないと予測するほうがはるかに得策である。少なくとも、外れた場合、周りに誰もそれに気づく人はいない。同様に、向こう3〜5年の結果について予測するより、50〜100年先の結果について予測する方が常に安全である。3〜5年後なら、人々はまだあなたの予測が外れたことを覚えているかもしれないからだ。関連して重要なのは、私たちが何を信じるかではなく、最終的に何が起こるかである。死後には何もないという確信より、来世を信じる方が心地よいかもしれない。しかし、死後の世界を最も熱心に信じる人々でさえ、信念を捨てることで天国行きが保証されるなら、おそらく喜んでそれを放棄するだろう。
人類絶滅を心配するあまり見過ごしている問題
未来に取りつかれることは、現在の問題に向き合わないための格好の言い訳になる。「仕事の現在」に関するカンファレンスや会議はほとんどない一方で、未来に関するものは山ほどあるのと同様に、AIをめぐる議論も、現在起きていることより未来に圧倒的に焦点を当てているように見える。
AIがどの方向に、どのような形で展開し、進化し、あるいは退化していくのかを本当に知っている人は誰もいないように見える以上、AIが今日何であり、何をしているのかにより多くの時間を割くことには合理的な理由がある。人材、組織、労働力、そして社会全体に対してである。これは単純な認識に基づく。すなわち、仮にAIが今日進化を止めたとしても（その可能性は低いが）、私たちはおそらく、これまでの影響に追いつくために何年も必要とし、私たちの生活に及ぼした深い影響を吸収するために大きな集中力と資源を必要とするだろう、という認識である。
とりわけ、私たちが現在、人類絶滅への懸念に気を取られている一方で、解決すべき明白な問題や対処すべき課題がいくつかある。たとえば次のようなものだ。
（1）AI導入を実際の生産性につなげること。AIがいずれ人類を排除するのかどうかを議論している一方で、はるかに差し迫った問いは、なぜ組織が広範なAI導入を測定可能な経済価値へと転換することにいまだ苦戦しているのか、である。従業員はしばしば密かにAIを導入しており、組織は人々の業務負荷に「ボットの世話」を追加している。そして驚くほど少数の企業しか、AIが現在できることを前提に、職務、ワークフロー、構造、ビジネスモデルを本格的に再設計していない。ガートナーによれば、組織の95%が何らかの形でAIを導入しているが、有意義または変革的な価値を報告しているのは5%にすぎない。機会が存在することは明らかだが、組織再設計、ROI、経済性はまだ追いついていない。技術を構築している企業でさえ、並外れた経済的負担に直面している。OpenAIは、2026年から2030年にかけて累計で約2800億ドル（約44兆円）のキャッシュバーンを見込んでいると報じられている。言い換えれば、AIが人類を破壊する前に、誰かがそれを安定的に採算に乗せる方法を見つけ出せれば有益だろう。
（2）AIバブルが崩壊したら何が起こるのか。AIブームは並外れた経済価値とリスクの集中を生み出した。2026年9月時点で、「マグニフィセント・セブン」はS&P 500全体のおよそ34%を占め、エヌビディアだけで約8%を占めている。同時に、AI経済はますます循環的になっている。半導体メーカーがAI企業に投資し、AI企業はその資金を半導体とクラウドインフラに費やし、クラウドプロバイダーは顧客となるAI企業に投資し、将来需要の予測がさらに大きな評価額と資本支出を正当化する。ブルームバーグは、企業が同時に投資家、供給者、顧客となる相互接続された網の目を描写しており、需要が期待を下回った場合には損失が増幅される可能性がある。さらに最近では、ビッグテック企業が、従来の貸借対照表上の負債の外側に置かれ得る資金調達構造を通じて、最大3000億ドル（約47兆1000億円）相当のAIインフラへのエクスポージャーを支える保証を提供したと報じられている。おそらく、より近い時期のシステミックリスクは、AIが賢くなりすぎることではなく、投資家がAIは十分に利益を生まないと気づくことなのだ。
（3）拡張への期待と自動化への恐怖の矛盾を解消すること。何年もの間、安心材料として語られてきた約束は、AIは人間を置き換えるのではなく拡張するというものだった。AIは仕事ではなくタスクを自動化し、私たちをより創造的で、戦略的で、人間らしくするために解放する、というわけだ。しかし、そう主張している同じ組織が、特にキャリアの入り口において、採用を減らすためにAIを使うケースが増えている。ガートナーによると、CHRO（最高人事責任者）の22%が、少なくとも1人の事業責任者がAIによる自動化を理由に、すでにエントリーレベル職の採用を停止したと回答している。一方、スタンフォード大学の研究者らは、経済全体に広がる大規模な雇用代替の証拠は見つけていないが、AIの影響を最も受けやすい職種に就く22〜25歳の雇用は、影響を受けにくい職種と同じペースで推移していた場合に比べて19%低い水準にあるとしている。これは居心地の悪い問いを生む。人々が歴史的に専門性を身につけてきたジュニア段階の仕事をAIが取り除くなら、明日の専門家、管理職、リーダーはどこから生まれるのか。
（4）未解決の古いデジタル問題に対処すること。拙著『I, Human: AI, Automation, and the Quest to Reclaim What Makes Us Unique』で述べたように、深刻な社会問題を生み出すのに超知能は必要ない。インターネットとソーシャルメディア時代が生み出した多くの病理、すなわち誤情報、エコーチェンバー、フィルターバブル、分断、部族主義、エンゲージメントへの依存、そして注意の産業規模での操作は、いまや生成AIによって増幅され得る。最近の研究は、エンゲージメント最大化アルゴリズムが誤情報やイデオロギー的分極化をいかに増幅し得るかを示している。また、AI駆動型ソーシャルメディアの経済モデルは、レコメンドシステムとターゲティング広告がエコーチェンバーや政治的分極化をいかに強化し得るかを示している。生成AIは、シグナルとノイズを見分けることにすでに苦しんでいた情報エコシステムに、安価で、個人化され、無限に拡張可能なコンテンツを加える。したがって私たちは、AIが最終的に文明を破壊するかどうかを心配することに時間をかけすぎ、AIがすでに私たちの持つ文明の質をどのように変えているのかに費やす時間が少なすぎるのかもしれない。
最後に、AIが生産性と効率において意味のある進歩をもたらし、人間は雇用され続け、労働時間はわずかに減り、所得は増えるが、仕事そのものは知的刺激ややりがいを失っていく、という前向きで、おそらくより現実的なシナリオもなお存在する。一方にはAIの名の下での効率向上があり、他方には人間の創造性、好奇心、独立した思考の低下がある。この緊張関係は十分にあり得るように見える。知識労働者はやがて、自らの知識にあまり頼らずに仕事をこなすようになるのだろうか。歴史的に知的コンテンツを生み出すことで報酬を得てきた社会の一部は、AIと世界の残りをつなぐインターフェースにすぎない存在となり、機械が生成した知性に指示を出し、確認し、編集し、転送するだけになるのだろうか。
そこには明白な進化上の類比がある。狩猟採集民だった私たちの祖先は、リフォーマー・ピラティスも、スタンディングデスクも、フィットネストラッカーも、オゼンピックも必要としなかった。彼らの環境は移動を強い、食料は十分に乏しかったため、痩せた状態を保つのに意識的な努力ははるかに少なくて済んだ。近代はそうした問題の多くを解決したが、その過程で、それまで日常生活に組み込まれていた身体活動の多くを取り除いた。その結果、私たちはそれを人工的に取り戻す方法を発明しなければならなくなった。ジム、ランニングマシン、エクササイズ教室、スタンディングデスク、ダイエット、そして今ではカロリー過剰の環境を補う薬である。
AIはその知的な同等物を生み出すかもしれない。人類史の大半において、考えることは避けられなかった。記憶する、計算する、道を探す、書く、解釈する、問題を解くことは、世界で機能するための単なる一部だった。AIがその認知的摩擦を十分に取り除くなら、私たちはいずれ、それを再び作り出す必要に迫られるかもしれない。おそらく私たちは、心のためのピラティスに相当する知的トレーニングを発明し、定期的にAIデトックスを行い、デバイスが禁じられた思考リトリートに参加するようになるだろう。そこでは人々が集まり、精神の筋肉を鍛え、支援なしに考えることがかつてどのような感覚だったのかを思い出すために、必要以上に難しく、ほとんど意味のない問いを互いに投げかけるのだ。
考えることは一種の知的贅沢にさえなるかもしれない。もはや必要ではないからこそ価値を持つものとしてである。レコードをかけること、フィルム写真を現像すること、マニュアル車を運転すること、万年筆で書くこと、一からパンを焼くことの認知的な同等物だ（これらはすべて、60年代にエアロビクスがそうだったように、当然ながら上昇トレンドにある）。いずれも技術的代替物より効率は劣るが、人々がそれを楽しみ続けるのは、摩擦そのものに意味があるからでもある。機械知能が豊富に存在する時代には、自分で考えることが同じようなレトロな魅力を帯びるのかもしれない。究極の皮肉は、考える手間を省くために何千年もかけて技術を発明してきた私たちが、最終的にはもう一度考える方法を学ぶために高い金を払うようになることだろう。
