今回のコラムでは、従来型AIから人工汎用知能（AGI）の達成に向かう過程で、人類が「茹でガエル理論」という諺の状態に陥るという興味深い予兆について検討します。その要点はこうです。私たちは段階的に少しずつAGIに近づいていき、最終的な破滅に向かっていることに気づかないというのです。この微妙な段階的進歩によって、私たちは大きな危機に陥っていることを認識できず、AGIへの道を放棄すべきだということに気づかなくなります。
私たちは、沸騰する鍋の中で状況を認識できないガエルのように茹で上がってしまうのです。
この問題について考えてみましょう。
この革新的なAIブレークスルーの分析は、AIに関する最新情報を取り上げる私のForbesコラムの一環であり、様々な影響力のあるAIの複雑さを特定し説明するものです（リンクはこちら）。
AGIとASIに向かう道
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要です。
AIをさらに進歩させるための研究が盛んに行われています。一般的な目標は、人工汎用知能（AGI）に到達するか、あるいは人工超知能（ASI）を達成する可能性にまで手を伸ばすことです。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するように見えるAIです。ASIは人間の知性を超え、多くの（もしくはあらゆる）面で優れているAIです。ASIは私たちの思考をあらゆる場面で上回り、人間を圧倒するだろうという考え方です。従来型AIとAGI、ASIの性質についての詳細は、こちらのリンクで私の分析をご覧ください。
私たちはまだAGIを達成していません。
実際、AGIに到達できるかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明です。浮上しているAGI達成時期の予測は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しいものです。ASIに至っては、現在の従来型AIの状況からすると、さらに遠い存在です。
茹でガエル理論の真相
茹でガエル理論について、漠然と聞いたことがあるか、何らかの形で知っているのではないでしょうか。これは、あなたを誘い込み、深刻な危機に陥っていることを認識しづらくする罠に落ちることを警告する一般的な方法です。よく使われる比喩の中で、茹でガエルはトップクラスに位置するでしょう。
茹でガエルの比喩が1800年代後半に始まったことをご存知でしたか？
1870年代、科学者たちは人間の魂がどこに宿るのかを解明しようとしていました。人間に侵襲的な実験を行うことは難しいため、次善の策としてガエルを使用したのです。中学校の生物の授業でガエルの解剖をした経験があるかもしれません。現在では、同様の取り組みはオンラインで行われることが多く、学生は実際の死んだガエルを切開するのではなく、デジタル解剖を行います。
1800年代後半の科学者たちは、ガエルを鍋の水に入れる実験を考案しました。鍋は基本的にストーブや類似の加熱装置の上に置かれていました。水の温度は最初は通常の室温でした。ストーブのスイッチが入れられ、水は温まり始めました。時にはガエルは水が完全に沸騰する前に飛び出すこともあれば、飛び出さずに沸騰熱で死んでしまうこともありました。
同様の実験が次々と行われるようになりました。ガエルを茹でる試みが流行したのです。場合によっては、茹でる過程の前にガエルの脳を取り除くこともありました。なぜでしょうか？目的は魂が脳にあるのか、それともガエルの体の他の場所にあるのかを確かめることでした。
これらの様々な実験が、人間の魂がどこに宿るかを明らかにすることが期待されていたのです。
伝説となったガエル
様々なガエル茹で実験が何度も繰り返され、1890年代には一般的に人気が薄れていきました。問題の一部は、多くの要因が実験結果を混乱させたことでした。熱の上昇速度はどれくらいか？実験の開始温度はどうだったか？ガエルは十分に逃げる自由があったのか、それとも部分的に閉じ込められていたのか？ガエルは生物学的に完全な状態だったのか、それとも既に手術されていたのか？鍋の中の水の量はどれくらいだったのか？ガエルの大きさはどうだったのか？などなど。
前述のように、結果は一般的に決定的ではなく、つまりガエルが時間内に飛び出すこともあれば、他の実験設定では飛び出さないこともありました。これらの結果の矛盾が、最終的にこの科学的探究全体に冷水を浴びせたようです（言葉遊びです！）。
矛盾する結果にもかかわらず、社会はまだ「沸騰する水の中のガエルは逃げる必要があることに気づかない」という仮定にしがみついています。これで話は終わりです。
この比喩は伝説となったようです。私たちは文化的に、その強力なイメージと、英雄的で運命的なガエルに関連する教訓を簡単に表現できることに抗えないのです。人生で何をするにしても、最終的には本当に悪いプロセスの中にいても、その過程でそれに気づかない可能性があることに注意してください。
警告しておきます！
AGIと茹でガエル
茹でガエル理論の基礎と意味を確立したところで、AGIの追求にどのように適用されるかを見てみましょう。
概要は簡単です。まず、AGIが最終的に人類を破壊すると仮定します。私たちはこれが運命だとは気づいていません。AGIに関する様々な議論が水を濁し、AGIを達成した後に何が起こるのか確信が持てなくなります。
AGIがガンを治し、世界の大きな問題を解決すると信じる人々は、AGIが神からの贈り物になると主張するでしょう。一方で、AGIが人間を奴隷化すると警告する人々もいます。AGIは人間を殺すでしょう。私たちはAGIを熱心に追求することで、最終的な終焉に向かって自分たちを押し進めているのです。
ある意味で、私たちは皆、まもなく沸騰する鍋の中に住んでいるのです。AGIに向かう各ステップは、温度の上昇です。問題は、自分たちがどんな混乱の中に身を置いているかに気づかないことです。この問題に関する議論が、私たちが時宜を得た行動を取ることを妨げるでしょう。
無礼に聞こえるかもしれませんが、あなたも私も、そして地球上の他の約80億人も、みんなガエルなのです。
もう熱を感じていますか？
もっと熱が必要かもしれない
鍋の水がある一定の温度に達するまでは、自分に何が起きているのかを必ずしも認識できないと言う人もいるでしょう。
おそらく、現在私たちが持っている従来型AIは温度が低すぎるのかもしれません。通常の温度の水の鍋の中にいるガエルは、そこにいることに特に文句を言う理由はないでしょう。確かに、それは鍋の中にいて本来の生息地にはいませんが、水は今のところ快適です。
人類も現在、同じ段階にいる可能性があります。
現在のAIは、私たちを興奮させるほど熱くないようです。AGIが私たちの岸辺に近づいたときにのみ、集団的に動揺し始めるでしょう。真のAGIの特徴が見え始めると、スパイダーマンの危険感知能力のようなものが予感として生じるでしょう。そうなれば、人類はAGIの追求を途中で止めるでしょう。頭上に冷水を浴びせれば頭が冴え、茹でガエルの罠に陥ることはないでしょう。私たちは悪質な罠から逃れるでしょう。
人類は完全な破壊から自らを救います。
ドーン、マイクを落とす。
人間はガエルより優れていない
おっと、反論が来ました。AGIに近づくことで、迫りくる存在的リスクに気づくと仮定しているのですね。
しかし、それらの兆候が見えないとしたらどうでしょう。AGIを達成する一歩手前であっても、AGIへの道が私たちが被ろうとしている恐ろしい結果を明らかにしない可能性は十分にあります。人間はその呪われた、ほぼ沸騰している水の中に座り、AGIが存在するようになる前に抜け出すことができなくなるかもしれません。
悲しいことに、私たちは茹で上がるでしょう。
もう一つの側面は、ガエルとは異なり、私たちは自分たちが賢いと傲慢に信じているため、ガエルが決して考えつかないようなことを自分自身に納得させることができるということです。例えば、AGIが暗い結果をもたらすことに気づいたとしても、AIに対する様々な制御の確立によって、私たちの頭が水面上に保たれると信じるかもしれません。AGIは制約され、私たちを害することができなくなります。
要点は、はい、沸騰する水が迫っていることを認識するでしょうが、その認識にもかかわらず、私たちはそれに陥ることになるということです。それらの制御と称されるものは、AGIが恐ろしいことをするのを止めることができないでしょう。AGIを適切に制御することが問題である理由についての詳細な分析については、こちらのリンクで私の議論をご覧ください。
ガエルは水が沸騰に近づいていることを見分けることができないと推定されますが（伝説の偏った側面によれば）、人間はそれを遠くから見ることができます。そして、私たちに安全と安心の誤った感覚を与える予防措置を考え出すでしょう。しかし、それらはAGIに勝てないでしょう。
残念ながら、私たちは最終的に見分けのつかないガエルと同じ運命をたどることになります。
考えるべきこと
私たちの能力と卑しいガエルについて、あなたはどう思いますか？
1800年代後半の有名な神学者、ウィリアム・グリーノウ・セイヤー・シェッドは、ガエルについてこのような印象的な指摘をしています：「ガエルは賢い。彼らは自分を悩ませるものを食べる」。おそらく私たちは尊敬すべきガエルに十分な信頼を置いていないのかもしれません。AGIが到来した後もガエルはまだ存在するかもしれませんが、人間の寿命は疑問視されるかもしれません。
静かな時間を取って、これらのAGIの懸念について考えてみてください。ただし、未来が何をもたらすかを整理する際に、頭が沸騰しないようにしてください。
