今回のコラムでは、汎用人工知能（AGI）の実現をめぐる、現在進行中の激しい議論を取り上げる。ここで重要なのは次の点だ。一部の人々は、AIが他のAIを訓練することによってのみAGIに到達できると強く信じている。その考え方は、発展途上のAGIをAGIエコシステム、つまり互いに協力して訓練し合う膨大な数の関連AGIの集合体に浸すというものだ。これは、AGI達成のためのハイブマインド（群知能）アプローチと呼ばれている。
この点について詳しく見ていこう。
この革新的なAIブレークスルーの分析は、最新のAIに関する私の継続的なForbesコラムの一部であり、さまざまな影響力のあるAIの複雑性を特定し説明している（詳細はこちらのリンクを参照）。
AGIとASIの追求
AIをさらに進化させるための研究が数多く行われている。一般的な目標は、汎用人工知能（AGI）に到達するか、あるいは人工超知能（ASI）の達成という遠大な可能性を実現することだ。
AGIは人間の知性と同等とみなされ、我々の知能と見かけ上同等の能力を持つAIである。ASIは人間の知性を超えたAIであり、多くの、あるいはすべての実現可能な方法において優れているとされる。ASIは、あらゆる局面で人間を出し抜くことで、人間を圧倒できるという考え方だ。AI、AGI、ASIの性質に関する詳細については、こちらのリンクで私の分析を参照されたい。
AI業界関係者は現在、AGIやASIに到達することの影響について、大きく2つの陣営に分かれている。一方の陣営は、AI悲観論者（AIドゥーマー）で構成されている。彼らは、AGIやASIが人類を一掃しようとすると予測している。これを「P(doom)」と呼ぶ人もいる。これは破滅の確率、つまりAIが我々を完全に消滅させる確率を意味し、AIの存亡リスクとしても知られている。
もう一方の陣営は、いわゆるAI加速主義者（AIアクセラレーショニスト）である。
彼らは、高度なAI、すなわちAGIやASIが人類の問題を解決すると主張する傾向がある。がんを治療する、その通りだ。世界の飢餓を克服する、まさにその通りだ。我々は莫大な経済的利益を目にし、人々は日々の労働の苦役から解放される。AIは人間と手を取り合って働く。この慈悲深いAIは人類を奪うことはない。この種のAIは人類が今まで作った最後の発明となるだろうが、それは良い意味でそうなのだ。なぜなら、AIは我々が想像もできなかったものを発明するからだ。
どちらの陣営が正しく、どちらが間違っているかは誰にも断言できない。これは、現代における二極化のもう一つの側面である。
2つの陣営に関する私の詳細な分析については、こちらのリンクを参照されたい。
AGIエコシステムアプローチ
AGI達成に関する一つの有力な見解は、AGI到達の最終段階で行き詰まり、ラストマイルをどう埋めるかに困惑するというものだ。これは80対20の法則の一つであり、最初の80%は比較的簡単だが、最後の20%が困難な道のりとなる。AGIの場合、おそらく99対1の法則に近いだろう。AGIをほぼ達成できそうだが、最後の1%のギャップを埋められないのかもしれない。
その1%のギャップは重要なのだろうか。
説得力のある主張は、達成されていない1%が非常に大きな違いを生むというものだ。ほぼAGIの能力は、真のAGIと同等とはみなされない。AGIを本当に完全な形で見たいのであれば、最後まで到達しなければならない。
完全なAGIを獲得するための仮説的な手段は、AIに他のAIを訓練させることである。人間はできることをやり尽くし、発展途上のAGIを手作業でデータ訓練することに限界に達している。最終ステップは、AIを使って他のAIを訓練することである必要がある。
検討されているアプローチは次の通りだ。
利用可能なAGIを、特殊化されたAGIエコシステムに投入する。これは、AGI同士が容易にコミュニケーションできるように確立された計算環境である。AGIは同じプロトコルを使用し、事前に決められた方法で互いに共有する。AI間のデータ共有に関する私の詳細な議論については、こちらのリンクを参照されたい。
期待または信念は、AGIがそれぞれの能力を自由に伝達し合うことで、少なくとも1つ以上の完成したAGIが生まれるというものだ。潮が満ちれば、すべての船が浮き上がると言えるかもしれない。大規模な共同自己訓練が行われる。
このアプローチを支持する人々は、このような取り決めから何か良いことが生まれるはずだと述べている。
相互学習と創発的知能
少し詳しく見ていこう。
一部のAGIは、最初はある分野では強いが、他の分野では弱いかもしれない。例えば、一般的に十分なレベルのAGIであり、さらに医学に精通した専門家レベルのAGIの集団があるとしよう。一方、金融分野では専門家レベルだが、医療分野ではあまり能力がない他のAGIがあるとする。
これらの異なるAGIを集めることで、相互学習を行うことが目的だ。医学に精通したAGIは、金融志向のAGIから金融の専門知識を獲得する。同様に、金融志向のAGIは、医学に特化したAGIから医学の専門知識を得る。
一つの懸念は、AGIが単に座っているだけで、他のAGIに何も影響を与えないかもしれないということだ。彼らは無為に浮遊し、おそらく社交辞令を交わすだけかもしれない。それは実際の相互学習を促進し、それぞれが固有の能力を持ち、それを他のAGIと交換することを保証するのに適しているとは思えない。
AGIエコシステムの支持者は心配無用だと言う。AGIは、相互学習を行うために互いに明示的に協力するよう指示される。エコシステムは単なる集まる場所ではない。AGIエコシステムの焦点は、AGIが協力し、適切に共有するよう促すことにある。
怠惰なAGIは許されない。
もう一つの信念は、AGIを近接させ、互いに協議するよう促したときに何が起こるかに、嬉しい驚きがあるかもしれないというものだ。おそらく創発的知能の兆候が現れるだろう。これは、1足す1を組み合わせると、答えとして3が得られるかもしれないという概念だ。AGIの相乗効果により、それまで誰も持っていなかった知能が生み出される。
このハーモニーがうまくいけば、素晴らしい恩恵となる。
悲観的な見方
AGIエコシステムが適切な成果をもたらす保証はない。
第一に、AGIが共有のために最善を尽くしても、真のAGIへの最終的なギャップを埋められない可能性がある。最後の1%が例えば0.9%に減少する、万歳、しかしそれでもまだ完全ではない。相互学習を行うこれらのAGIは、真のAGIを達成するには十分ではない。残念ながら。
第二に、AGIが実際に協力すると仮定している。なぜそれが妥当な仮定なのか。AGIは互いに口論するかもしれない。一部のAGIは真のAGIになることに固執し、他のAGIが先に到達するのを意図的に妨害するかもしれない。汚い手口が使われる可能性がある。
第三に、全体が悪意ある者の夢となる可能性がある。すべてのAGIが一箇所に一度に集まることは、魅力的な標的となる。人間を破壊する新しい武器を考案する方向に向けることができれば、悪意ある可能性を考えてみてほしい。すべての卵を一つのバスケットに入れることは、危険な提案のように思える。
第四に、真のAGIを達成する魔法が起こる既知の時間制限や計算上の境界はない。AGIエコシステムは稼働し続け、膨大な計算リソースを消費するかもしれない。真のAGIがいつ達成されたかをどうやって知るのか。成熟が線形である必然性はない。AGIが他のAGIを強化することには、何年も、おそらく何百年、何千年もかかるかもしれない。
誰がその取り組みに資金を提供し、望ましい結果が生じるまでどれくらい待つ意思があるのか。
難しい質問だ。
既成概念にとらわれない思考
確かに、AGIエコシステムの概念は、悲観的な側面があるにもかかわらず、非常に魅力的である。
AGIエージェントのメッシュまたはハイブマインドが一緒に進化することは、良いアプローチであるように思える。これは現実世界と既存のエコシステムを反映している。興味深い側面が検討されている。例えば、一部のAGIがデジタル外交官となり、AGI同士が相互学習するよう促す役割を果たすかもしれない。
支持者は、悪意ある者の懸念に対処するために、安全性とセキュリティの規定を設けることができると強調している。AGIエコシステムが無限に機能する可能性については、食事がどのように進んでいるかを判断するためのチェックポイントを設けるという反論がある。定期的に追加の調整が行われる。
AGIエコシステムが明らかに行き詰まりに向かっているようであれば、そのアプローチを放棄し、別の方法を試せばよい。重要なのは、AGIエコシステムを可能性として事前に拒否しないことだ。試してみる。何が起こるか見てみよう。
著名な詩人T.S.エリオットがかつて言ったように、「遠くまで行くリスクを冒す者だけが、どこまで行けるかを知ることができる」のである。
