マネーの罠
エッセイの中でも最も暗い観察の1つは、アモデイ自身のような警告を黙らせ得る経済的インセンティブに関するものだ。
アモデイはこう書く。「AIでは、あまりに多くの金が稼げます——文字どおり、年に数兆ドル（数百兆円）です」「これが罠です。AIはあまりに強力で、あまりにきらめく賞品なので、人類文明がそこに何らかの制約を課すのは非常に難しいのです」。
アンソロピックは約3500億ドル（約53兆5000億円）で評価されていると報じられている。一方、OpenAI（オープンAI）は、評価額が1兆ドル（約152兆9200億円）に迫る可能性のあるIPO（新規株式公開）を準備している。こうした金銭的利害が、リスクを小さく見せ、展開を加速させる強力な動機を生む。
アモデイはこう書く。「AI企業は大規模なデータセンターを管理し、最先端モデルを訓練し、それらのモデルをどう使うべきかについて最大の専門知識を持っています……AI企業のガバナンスは厳しく精査されるべきです」。
「破滅論」から距離を取りつつ警鐘を鳴らす
このエッセイは、アモデイが「破滅論」（doomerism）と呼ぶものから距離を取る。破滅論とは、2023〜2024年に議論を支配した、AIリスクを準宗教的に扱う姿勢であり、「宗教やSFを想起させる不快な言葉遣い」や、裏付けのない極端な行動の要求を伴うものだという。
アモデイはこう書く。「2025〜2026年の時点で、振り子は揺れ戻り、AIリスクではなくAIの機会が、多くの政治的意思決定を動かしています」「この揺れは不幸です。技術そのものは流行を気にしませんし、私たちは2023年よりも2026年の方が、現実の危険にかなり近づいているのですから」。
エッセイは不確実性も認める。AIがアモデイの想定ほど急速に進歩しないかもしれないし、仮に進歩しても恐れられているリスクの多くが現れない可能性もある。しかしアモデイは、その可能性が何もしないことの言い訳にはならないと主張する。
アモデイはこう書く。「誰も、未来を完全な確信をもって予測することはできません——しかし、それでも私たちは最善を尽くして計画しなければなりません」。
興味深いことに、エッセイは「外科的介入」（surgical interventions）──便益ある開発を妨げずにリスクに対処するために必要最小限の、ピンポイントの規制──を提唱する。アモデイは、企業による自発的な行動に加え、限定的な政府規制を支持し、ルールは「巻き添え被害を避け、できるだけ単純にし、仕事をやり遂げるために必要な最小の負担を課す」べきだと強調する。
アモデイは富裕層にも呼びかける。「裕福な個人には、この問題の解決を助ける義務があります。多くの裕福な個人（特にテック業界）が最近、慈善は必然的に詐欺的で無意味だという冷笑的で虚無的な態度を取るようになったのは、私にとって悲しいことです」。
