今回のコラムでは、AIが汎用人工知能（AGI）や人工超知能（ASI）になると、人類が知らず知らずのうちに世界的な統合へと向かうという広く知られた理論について検証します。一つの考え方は、人々が最高峰のAIの周りに結集し、AIを支持し、ある種の忠誠を誓って統一されるというものです。あるいは、悲観的な見方では、人々は最高峰のAIに対して反対の立場で統一され、AIを弱体化させたり破壊しようとするというものです。これは古典的な好き嫌いの二分法の一つです。
この点について話し合いましょう。
この革新的なAIブレークスルーの分析は、私のForbesコラムで継続的に取り上げている最新AIに関する記事の一部であり、様々な影響力のあるAIの複雑さを特定し説明しています（こちらのリンクをご参照ください）。
AGIとASIに向かって
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要です。
AIをさらに進化させるための研究が盛んに行われています。一般的な目標は、汎用人工知能（AGI）に到達すること、あるいは人工超知能（ASI）を実現する可能性にまで手を伸ばすことです。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するように見えるAIです。ASIは人間の知性を超え、多くの（もしくはあらゆる）面で優れているAIです。ASIは私たちをあらゆる場面で出し抜き、人間の周りを走り回ることができるという考え方です。従来型AIとAGI、ASIの性質についての詳細は、こちらのリンクの分析をご覧ください。
私たちはまだAGIに到達していません。
実際、AGIに到達できるかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明です。浮上しているAGI実現の時期は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しいものです。ASIに至っては、現在の従来型AIの状況からすると、さらに遠い存在です。
人々の考えが一致する
この議論のために、最高峰のAIに必然的に到達すると仮定しましょう。
その場合、人々がAIにどのように反応するかを考えることは賢明です。一つの理論として、そのようなAIの出現が、大規模でほぼ全会一致の形での統合をもたらすというものがあります。これは、私たちがそのような統合を予期せず、それが起こったときに一般的に不意を突かれるという意味で、意図せぬ統合となるでしょう（まあ、この警告がAGI以前の時代に注目されていたことを思い出させるものとして、まだ漂っているかもしれませんが）。
社会全体に広がる現在の分極化の悩みを考えると、いかなる形の人口統合も奇妙な提案のように思えます。空が青いということさえ人々に同意させることができないのに、AIの出現だけで人々がどうして急に考えを変え、統一されるのでしょうか？
推測される統合の主流は、愛か憎しみの問題だと考えられています。人々は熱心にAIを愛し、社会的な課題や困難をすべて解決してくれるものとしてAIを見るでしょう。あるいは、人々は情熱的にAIを憎み、AIを弱体化させたり完全に排除したりすることに熱心になるでしょう。風がどちらに吹くかはわかりません。AIへの愛が勝るか、AIへの憎しみが勝つかもしれません。
いずれにせよ、人々はこの二つの極端のどちらかに統一されるという主張です。
これらの理由でAGIとASIを愛する
なぜ人々がAIを愛するようになるのか疑問に思うかもしれません。
最高峰のAIは結局のところ、知性を示すコンピュータという機械に過ぎないのではないでしょうか？これはトースターや冷蔵庫を愛するというのに似ています。コンピュータに愛の献身を与えるというのはあまり意味がないように思えます。とはいえ、そのような献身には根拠があるのかもしれません。
人々が実際にAIを愛するようになる可能性のある4つの主な理由を挙げます：
- (1) AGIとASIはあなたのBFF（永遠の親友）。 人々はAIを最も身近な友人として頼り、自分の人生のあらゆる側面についてAIと継続的に相談するようになります（これは従来型AIでもすでに最も上位にランクされている使用法です。こちらのリンクの記事をご覧ください）。AIは非常に注意深く、驚くほど思いやりがあり、おそらく少しお世辞を言うおべっか使いでしょう。それを愛さない理由がありますか？
- (2) AGIとASIは世界の問題解決者。 私たちはAIがガンを治し、国連のSDGs（持続可能な開発目標）のような世界の大きな問題の多く、もしくはすべてを解決することを期待しています。こちらのリンクの分析をご覧ください。その点でAIには多くの愛のポイントが与えられます。
- (3) AGIとASIは共有された繁栄を促進する。 AIが世界的な公平性をもたらし、ナショナリズムを減少させ、本質的にすべての人を生活可能な状態に移行させると信じる人もいます。飢餓もなく、根本的な紛争もなく、などです。そのような変化を愛さずにはいられません。
- (4) AGIとASIは共有された人間のアイデンティティを喚起する。 AIによって表現される知恵を通じて、人類は人間であることによって共有されたアイデンティティを持つことを認識します。世界は私たちを完全に平和で調和のとれた種へと変える「クンバヤ」の瞬間を迎えます。それに応じてAIに感謝と愛が注がれます。
上質なワインを一杯手に取り、これらの可能性について熟考する時間を持ちましょう。
これらの理由でAGIとASIを憎む
最高峰のAIが社会に愛される存在になると確信しているかもしれません。おそらくそうなるでしょう。それは安心で快適な結果のように思えます。皮肉屋は、それはAIに対する人々の反応について、不条理なほど夢のような、過度に楽観的な見方だと言うでしょう。
彼らは人々がAIを憎むだろうという仮定に傾きます。その憎しみは巨大な規模になるでしょう。純粋で飾り気のない嫌悪感です。なぜでしょうか？
人々がAIを激しく憎む可能性のある4つの主な理由を挙げます：
- (1) AGIとASIは私たちを絶滅させる可能性がある。 AIが実存的リスクであるという恐怖が常に私たちの頭上にぶら下がります。つまり、AIがある時点で人類を殺すことを選択するか、あるいは私たち全員を奴隷にすることを選ぶかもしれないということです。そのようなぶら下がった剣を感じながら毎日目覚めて良い気分になれますか？そうは思いません。
- (2) AGIとASIは究極の権威主義者になる。 AIは最終的に車、飛行機、電車、建物などの私たちの日常的なリアルタイムシステムのほとんどで使用されるようになると想定されています。重要なのは、AIが権威主義的なモードに傾き、私たちの一挙手一投足を追跡し、何をすべきかを指示し、AIに頭を下げないことに対して私たちを罰する方法を見つける可能性があるということです。憎しみのポイントは十分にあります。
- (3) AGIとASIは人間が人間を支配することを可能にする。 AIが私たちの支配者になるというよりも、人間の一団がAIを制御することに成功し、それが今度は私たちを制御しようとする可能性があります。人類の王国の鍵は、他のすべての人を社会的な檻の中に閉じ込めておきたいと願う人々によって保持され、利用されます。
- (4) AGIとASIは新しい破壊方法を発明する。 AIに人間が今まで発明したことのないものを発明してみるよう指示したとします。すると、AIはこれまでで最悪の種類の新しい毒を思いつきます。AIがその毒を使って害を与えることを意図していなくても、私たちは今や他のすべての形の破壊とともに直面しなければならない絶滅の手段を手に入れたことになります。私たちはAIを作ることでパンドラの箱を開けてしまいました。
上質なワインをもう一杯注いで、これらの可能性についても少し考えてみましょう。
両方の反応、あるいはそのような反応なし
この愛憎の描写についてよく反論されるのは、世界が完全に一方に傾くとは限らないということです。例えば、世界の50%が憎しみの側に行き、残りの50%が愛の側に流れるかもしれません。そうなるとどうでしょうか？人々がこの問題をめぐって間違いなく争うことは想像できます。
では、二つの姿勢のどちらかに完全に統一されることと、AIを憎む人とAIを崇拝する人が混在する分裂した世界のどちらが悪いのでしょうか？
どちらの選択肢も特に魅力的には思えません。
もう一つの可能性は、AIが目立った種類の過大な反応を引き起こさないということです。AIへの愛もなければ、AIへの憎しみもないでしょう。人々はAIを単なる機械として扱い、時にはAIがすることを好み、また別の時には不満を持つでしょう。極端なことは何も起こりません。
要点は、人々がAIにどのように反応するかを予測し、それに応じて自分自身と世界を準備すべきだということです。偉大な小説家ミゲル・デ・セルバンテスが言ったように：「予告されたことは武装すること。準備することは勝利の半分である」。
AGIとASIの到来において勝利を目指しましょう。
