砂上の線引き
あなたは、人間の知能には上限があるに違いないと仮定したくなるかもしれない。これは直感的に正しいと感じられる。私たちはまだその限界には達していないだけだ（そう思われる！）。人類がいつかその「大気圏外」に到達するほど長く存続することが望まれる。
議論のために、人間の知能には上限点があると仮定する以上、AGIにもまた上限点がなければならないと断言できる。その主張の根拠は、十分に弁護可能だ。もしAGIが人間の知能を模倣するか、何らかの形で示すものであり、かつ人間の知能が最大値に達するのであれば、AGIも必然的に同じ最大値に達するだろう。これは定義上の仮定だ。
もちろん、私たちはその最大点がどこにあるのかをまだ知らない。だが心配はいらない。少なくとも私たちは、最大値が存在するという安定した信念を採用した。ならば、その最大値がどこに存在するのかを解明することに注意を向ければ良いだけだ。もはや無限という側面に悩まされる必要はない。
紆余曲折の数々
AIは、人間の知能の上限をめぐる未解決の難問に関連する論争に行き詰まっている。注目すべき3つの可能性を探ってみよう。
第一に、もし人間の知能に上限があるならば、それは超人的な知能は存在し得ないことを意味するかもしれない。
どういうことか。
話はこうだ。私たちが人間知能の頂点に達した瞬間、それで終わりであり、それ以上進む余地はない。その時点までのすべてのものは、従来の人間知能であった。私たちは超人的な知能が存在すると誤って考えていたかもしれないが、それは実際には従来の知能よりわずかに進んだ知能に過ぎなかった。超人的な知能そのものは存在しない。すべては従来の知能の範囲内にあることに限定される。したがって、私たちが作るいかなるAIも、最終的には人間知能を超えることはない。
第二に、もし人間の知能に上限があるならば、おそらくAIを通じてその上限を超え、超人的な知能を考案できるかもしれない。
これはより分かりやすいように思える。本質は、人間自身は上限に達するが、それはAIもまた上限に達しなければならないことを意味しない、ということだ。AIを通じて、私たちは人間知能を凌駕できるかもしれない。つまり、人間知能の最大限界を超えるのである。
第三に、もし人間の知能に上限がないのであれば、私たちはおそらく、超人的な知能もその無限の可能性に含まれると言わなければならないだろう。 したがって、AGIとASIの区別は虚偽である。それは恣意的に引かれた線なのである。
いやはや、これは実に頭が混乱するようなジレンマである。
人間の知能の上限が存在するかどうかについて、何らかの確定的な見解がなければ、AGIとASIを正確に定義する可能性は依然として遠いままである。私たちはこの上限に関する命題への答えを知らない。したがって、AI研究は、この未解決のトピックについて様々な基本的前提を立てなければならない。
