超知能の謎
仮に、人間の知能に上限があるとしよう。もしそれが真実なら、超人的知性は人間知能の性質とはまったく異なるものになるのだろうか。言い換えれば、私たちは、人間知能は超人的知性に到達できないといっていることになる。しかし、私たちが考案しているAIは、概して人間知能の全体的な性質を中心に形成されているように見える。
では、人間をモデルにしたAIが、なぜ人間自身を超えられるのか。最も頻繁に聞かれるふたつの答えは、以下の可能性である。
（1）規模（サイズ）の違い
（2）性質の違い
苛立たしい謎に対する第一の答は、サイズが違いを生むかもしれないということだ。
人間の脳は重さが約3ポンド（約1.4kg）で、頭蓋骨の大きさに完全に制限されている。寸法はおおよそ5.5インチ（約14cm）×6.5インチ（約16.5cm）×3.6インチ（約9.1cm）である。人間の脳は約860億のニューロンと、おそらく1000兆のシナプスで構成されている。人間知能は、その大きさの制約の中で起こりうることすべてに縛られているように見える。
一方、AIは、おそらく何千、何百万ものコンピューターサーバーや処理装置上で実行されるソフトウェアとデータである。私たちはいつでも追加できる。そのサイズの限界は、私たちの頭の中に収められた脳ほど制約的ではない。要するに、AIが超人的知性を示すかもしれない理由は、人間の脳が持つ物理的なサイズの制限を超えられることにある。
第二の回答は、AIは必ずしも人間知能を生み出す生化学的性質に従う必要はないというものだ。人間の脳は生化学的プロセスに限定されているが、AIは柔軟に新たなアルゴリズムやハードウェア構成を取り入れられる。これにより、人間が到達できないレベルの知能をAIは実現し得るという立場である。
未知への船出
これらふたつの考察、すなわち規模と性質は、協調して働く可能性もある。AIが知的に超人的になるのは、スケーリングの側面と、AIが知能を模倣または表現している性質の違いの両方によるものかもしれない。
「馬鹿げている」と一部の人は力説する。AIは人間によって考案される。したがって、AIは人間ができること以上にうまくやることはできない。AIはいつか人間知性の最大値に到達し、それ以上には進まないだろう、というわけだ。
「いや待て」と反論が返ってくる。人類がどのようにして飛ぶ方法を考え出したか考えてみてほしい。私たちは鳥のように腕を羽ばたかせはしない。代わりに、私たちは飛行機を考案した。飛行機は飛ぶ。人間は飛行機を作る。したがって、人間は自身の限界を明確に超えることができるのだ。
同じことがAIにも当てはまるだろう。人間がAIを作る。AIは人間知性を示し、ある時点で人間知性の上限に達するだろう。そしてAIはさらに超人的知性へと進歩し、人間知性の限界を超えていくだろう。人間は飛べなくても、飛ぶことができるAIを作ることができる、と言えるかもしれない。
この魅惑的なトピックに関する現時点での最後の考察をひとつ。アルバート・アインシュタインは次のように述べたことで有名である。「無限なものはふたつだけだ。宇宙と人間の愚かさ。だが宇宙については確信が持てない」。
非常に気の利いたコメントである。AIがAGIとなり、そしておそらくはASIになるという問題について真剣に熟考してみてほしい。ただし、全人類の未来がその答えにかかっているかもしれないのだから、冷静に思慮深くあり続けてほしい。
