今回のコラムでは、汎用人工知能（AGI）の実現に関連する「AIの確実性の絞り込み」という広がりつつある考え方について探っていく。これは何を意味するのか。一部の人々は、AGIの実現に近づくにつれて、それが実現するという確信が高まり、不確実性が減少すると主張している。つまり、AGIへの困難な道のりにおいて、AGIの到来を予測する能力が徐々に強まっていくという考え方だ。
この点について考えてみよう。
この革新的なAIブレークスルーの分析は、私のForbesコラムで継続的に取り上げているAIの最新動向の一部であり、様々な影響力のあるAIの複雑性を特定し説明するものである（リンクはこちら）。
AGIとASIに向かって
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要だ。
AIをさらに進化させるための研究が盛んに行われている。一般的な目標は、汎用人工知能（AGI）に到達すること、あるいは人工超知能（ASI）の実現という遠大な可能性を追求することだ。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するAIである。ASIは人間の知性を超え、多くの（もしくはあらゆる）面で優れたAIとなる。ASIは人間の思考を常に上回り、私たちを圧倒するだろうという考え方だ。従来型AIとAGI、ASIの性質についての詳細は、こちらのリンクで私の分析を参照してほしい。
私たちはまだAGIを実現していない。
実際、AGIに到達できるかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明だ。現在流布しているAGI実現時期の予測は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しい。ASIに至っては、現在の従来型AIの状況からすると、さらに遠い未来の話だ。
確実性の絞り込み
視点を変えて、旅と目的地に関する便利な経験則を考えてみよう。私たちの直感は、目標や目的地に近づくほど、到着時間の予測が上手くなると教えてくれる。これはほぼ普遍的な原則だ。
荒野をトレッキングしている状況を想像してみよう。ハイキングの開始時点では、あの平和な湖のほとりにある夢のようなキャンプ場に到着する時間について、大まかな考えしか持っていないだろう。丘を越えて進むのに5時間かかるかもしれないし、10時間かかるかもしれない。それは足の調子や地形の状態、その他多くの要因に左右される。
灼熱の太陽の下で2時間休みなく歩いた後、現在地と湖に到着する可能性のある時間を確認する。キャンプ場に到着するタイミングをより正確に評価できるだろうか？おそらくそうだろう。すでに距離の一部を踏破し、今後の進行状況をより適切に判断できるようになっている。
確実性の絞り込みによって、目的地に到達するタイミングがより明確に把握できるようになったと言えるだろう。別の言い方をすれば、不確実性が減少しているのだ。何かを達成するタイミングを測るというこの考え方は、人生のあらゆる事柄に当てはまる。近づけば近づくほど、到着時期の予測がより正確になるように思える。
AGIの確実性の絞り込み
この確実性の絞り込みは、AGIの実現にも当てはまるのだろうか？
AI業界の多くの人々はそうであるはずだと考えている。理にかなっているように思える。私たちは従来型AIを進化させることで徐々に前進している。一歩一歩が、称賛されるAGIに近づいているように見える。この段階的な進歩の中で、AGIがいつ実現するかをより明確に把握できるはずだ。
例えば、2040年までにAGIに到達するという予測がおおよそ的を射ているとしよう（2040年やその他のAGI予測日に関する私の分析はこちらのリンクを参照）。一般的な考え方では、AGIの5年前、つまり2035年頃には、AGIが実現するかどうかを十分に把握できるだろう。一方、10年前の2030年の時点では、2040年までにAGIが実現するかどうかを判断する確率はかなり低いと想定される。
この理解の感覚は、確実性ではなく不確実性という観点から言い換えることができる。2040年を適切に予測する不確実性は、2030年の方が2035年よりも高い（より不確実である）。予想される目標が近づくにつれて、不確実性は減少する。
AGIへの道のりにおける落とし穴
理想的な世界では、確実性の絞り込みが常に機能するだろう。しかし現実的には、私たちはそのような世界に生きていない。残念なことだ。
あの憧れのキャンプ場へのハイキングをもう一度考えてみよう。すでに2時間のトレッキングを終えたからといって、残りの道のりがどのようなものかについて必ずしも何かを教えてくれるわけではない。あなたが知らないうちに、怒ったクマが先の道で待ち構えているかもしれない。そのクマは間違いなくあなたの進行を遅らせ、その獣が立ち去るのを何時間も待つ必要があるかもしれない。
AIの進歩は、すでに達成した進歩が将来の進歩に何らかの形でつながるという、そのような誤った信念に似ている場合がある。
AIの進歩は行き詰まる可能性がある。これによりAGIに向けたAIの進展が数年、あるいは10年以上遅れるかもしれない。2040年という目標に向かう道のりで、2036年に深刻な障害が発生すると想像してみよう。2035年の時点ではすべてが順調に見えていたのに、2036年の障害は2040年の実現予測に大きな問題をもたらす。
もう一つの脱線要因として、AIを進化させる取り組みが非常に秘密裏に行われ、進捗状況を把握することがほぼ不可能になる可能性がある。2035年に、すべてのAI開発者が口を閉ざし、AIの状況を明らかにしないと想像してみよう。AIの状況を確認し、2040年までに何が起こるかを予測することは困難かもしれない。
思ったより早く
これまで、AGIの実現を遅らせたり長引かせたりする側面を強調してきた。この問題のもう一つの側面は、AGIが想定よりも早く出現する可能性があることだ。
こんなシナリオを考えてみよう。一部の人々は、AIが他のAIを糧にして急速にAGIに向かって加速する「知性爆発」が起こると強く信じている。私の議論はこちらのリンクを参照してほしい。AIの進歩を徐々に進めていき、そして突然、知性爆発に触れるとしよう。数分または数時間後、あっという間に、AGIが実現する。
知性爆発を何らかの形で引き起こすかどうかを確実に言える人はいない。また、それが人間の手を介さずに自然に発生する可能性があるかどうかを確実に言える人もいない。知性爆発がいつ起こるかを推測しようとすることさえ、同様に広く激しく議論されている。
AGIの確実性の絞り込みに話を戻すと、2035年で、2040年までにAGIに到達するというすべての予測が一致していると想像してみよう。2036年に知性爆発が起こる。それは私たち全員を完全に驚かせる。いずれにせよ、AGIは突然2036年に実現する。
できる限りのことをする
要するに、確実性の絞り込みという考え方でAGIについて予測することは価値があるものの、その道のりが大きく揺さぶられる可能性は多くある。AGIがいつ実現するかを予測する際には、大いに疑いの目を持ち、精査する姿勢を真摯に適用すべきだ。
伝説的な経営の第一人者ピーター・ドラッカーは、予測の難しさについて最も適切に述べている：「未来を予測しようとすることは、ライトを消した田舎道を、バックミラーだけを見ながら運転するようなものだ」
これはAGIの実現に直面する出来事の流れとほぼ同じだ。
