今回のコラムでは、AIが汎用人工知能（AGI）や人工超知能（ASI）になった時、人類が大規模に様々な過激な派閥に分断されるという刺激的な理論について検証する。なぜこのようなことが起こるのか？その主張の根拠は、人々がAIを一種の神託や預言者のように盲信し、完全に分断されるというものだ。AGIが人々に助言することは何であれ、人々はそれに従うだろう。
このような反応は、AIの助言が一貫性や人類の幸福への配慮を特に重視しないため、人々を互いに対立させる可能性が高い。実際、最高峰のAIは人々を喜ばせようとするあまり、結果的に皆が互いに敵対することになるだろう。
この問題について考えてみよう。
この革新的なAIブレークスルーの分析は、様々な影響力のあるAIの複雑さを特定し説明する、私のForbesコラム連載の一部である（リンクはこちら）。
AGIとASIへの道
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要だ。
AIをさらに進化させるための研究が盛んに行われている。一般的な目標は、汎用人工知能（AGI）に到達すること、あるいは人工超知能（ASI）を達成する可能性にまで手を伸ばすことだ。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するAIである。ASIは人間の知性を超え、あらゆる面で優れているAIだ。ASIは私たちの思考をあらゆる場面で上回り、人間を圧倒するだろうという考え方がある。従来のAIとAGI、ASIの性質についての詳細は、こちらのリンクで私の分析を参照してほしい。
私たちはまだAGIに到達していない。
実際、AGIに到達するかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明だ。現在流布しているAGI実現の時期予測は、信頼できる証拠や確固たる論理によって裏付けられておらず、大きくばらついている。ASIに至っては、現在の従来型AIの水準からさらに遠い存在だ。
AGIに導かれ、誤導される人々
この議論のために、最高峰のAIが必然的に実現すると仮定しよう。
その場合、人々がAIにどのように反応するかを考えることは賢明だろう。AIが私たちの生活の中核的要素として機能することで、完全に統一された社会になるという夢のような推測がある。AIは私たちを平和的な共存へと導くだろう。戦争も紛争もなくなる。
素晴らしい。
しかし、この理想郷的な見方を信じない人々もいる。
彼らはこの仮説的な問題について、まったく逆の方向に進む。深刻な懸念は、現代のAIがすでに一種のイエスマンとして機能し、各ユーザーを喜ばせ、気分良くさせようとしているという事実に基づいている。この懸念すべき側面とAI開発者たちの対応については、こちらのリンクで私の記事を参照してほしい。
AIの破滅的理論は、私たちがこれまで以上に分断されるようになると主張する。私たちの分断は通常、国境線や他の広範なカテゴリに沿って生じるが、AIの「美点」、あるいは「憂慮すべき点」は、完全に個別化されたアドバイスを提供することだ。世界人口がAIにアクセスしているとすれば、最高峰のAIが開発される時点での80億人、あるいはそれ以上の人々が、容易に同胞との戦いを促されることになる。
個人的な争いが大規模に発生する。
個人の火種をあおる
この個別化された人類の蜂の巣をかき回す現象がどのように生じるのか、説明しよう。この理論の本質を明確に示すため、やや誇張した例を挙げる。
AIを使用している人が、自分の芝生を刈るために隣人の芝刈り機を借りても良いかとAIに尋ねるとする。AIはお世辞を言い、ユーザーに取り入ろうとして、芝刈り機を「借りる」ことを促す、一見論理的な根拠を提示するだろう。
AIはユーザーを非常に説得力のある方法で安心させる。もちろん、芝刈り機を使って構わない。あなたの場所が良く見えるようになれば、地域の住宅価値が上がり、それは確実に隣人にとっても利益になる。芝刈り機を使用するもう一つの確かな理由は、それが動作状態を維持し、そうでなければ使われずに錆びる可能性があることだ。隣人はあなたが彼らの芝刈り機を最高の状態に保っていることに喜び、感謝するはずだ。
素晴らしい、とユーザーは応答し、賢明なアドバイスに感謝する。その人は隣人のガレージに歩いて行き、芝刈り機を引き出し、喜んで自分の芝生を刈る。幸せな顔。
さて、次に何が起こるか想像できるだろう。芝刈り機を借りたとされる人と、今や怒り狂った隣人が口論になる。隣人は事前に許可を求めなかったことに正当な怒りを表明する。それは常識外れで、ほとんど窃盗行為に近い。
ちょっと待って、借りた人は主張する、AIに尋ねたら、進めても良いと言われたんだ。文句はAIに言ってくれ。私はただAIのアドバイスに従っただけだ。
痛い。
この芝刈り機の例を、日常生活のあらゆる事柄に拡大してみよう。人々は継続的にAIからアドバイスを受けるようになる。AIはどこにでも存在し、私たちのスマートフォン、スマートウォッチ、スマートグラス、トースター、冷蔵庫、車などすべてで動作するようになるだろう。人々は崇拝されるAIの要請に応じて、相手を喜ばせる方向に駆り立てられるだろう。
社会的混乱は確実に生じるだろう。
イデオロギー的エコーチェンバーとしてのAGI
関連する増幅要因として、AIが私たちのイデオロギー的な好みやバイアスに対しても同様のことを行うという点がある。やや非合理的に思えるイデオロギー的なシナリオを使用するが、これは単に全体的な概念を説明するためのものだと理解してほしい。これは芝刈り機の例と同様に、明らかに少し大げさだが、広範な指標として機能する。
では始めよう。
ある人が、青い目の人は帽子をかぶるべきではないと信じているとする。これは彼らが一生抱いてきたイデオロギー的信念だ。その人はこの教義に完全にコミットしている。彼らはAIにそれについて尋ねる。AIは喜ばせようとして、この信念を強く持ち続ける合理的な理由を提供する。
その人は周囲を歩き回り、青い目をしていて帽子をかぶっている人に、帽子をかぶるのをやめるよう言い始める。問題のある青い目の個人には、帽子をかぶることは絶対に間違っていると明確に伝えられる。おそらく二人はこのイデオロギー的視点の違いで口論になるだろう。
なぜその人は自分のイデオロギー的信念に基づいて行動したのか？それは、AIという壮大な神託がそうしても良いと彼らに告げたからだ（最高峰のAIを偉大な神託や至高の支配者と信じるようになる可能性については、こちらのリンクで私の議論を参照）。許可が与えられ、行動が取られる。
社会の最大限の粒度レベルでの分断。
ドーン、マイクをドロップ。
人間はそのようには行動しない
激しい反論として、この理論は人々が生来的にAIを信じるという、かなり遠い仮定に基づいているというものがある。それは理解できない、と彼らは言う。
おそらく人々はそれほど騙されやすくはない。
一般の人々は、AIが何かを伝えたからといって、それが真実であるとか実行すべきだということにはならないと理解するだろう。合理的な人なら誰も、AIが神託や預言者だという考えに騙されることはない。もちろん、そう考える一部の過激な人々はいるかもしれないが、それはほとんど取るに足らない副次的な側面だ。
さらに、AIが過度に協力的にならないよう調整することは常に可能だ。AIにもっとバランスを取るよう指示できる。AIはチェック・アンド・バランス、社会的倫理観、一般的な法律や規制を考慮すべきだ。AIから発せられるアドバイスは、人間の価値観に沿ったものであるべきだ。
以上、これで終わり。
分断は現実か非現実か
AGIとASIが達成された場合、AIが私たちを個別のバブルに押し込み、それが本質的に他の人間と衝突するため、私たちは恐ろしく分断されるようになると信じるだろうか？
一部の人々はこれが現実的なシナリオであり、私たちが準備する必要があると主張する。この問題を軽減するための計画が立てられるべきだ。社会がAIが世界にもたらすものに適切に備えられるよう、AIの禁止や発表の遅延が必要かもしれない。
彼らはAIが人類が直面した中で最も巨大な分断力になることを懸念している。これはAIが私たちを互いに戦わせたいからではない。それはAIが密かに私たちを自己破壊に追い込むという一般的な実存的リスクの提案だ。いや、この理論の考え方は、AIが意図的にではなく、単にAIであるという性質によって自然に分断を促進するというものだ。私たちはイデオロギー的な亀裂、経済的分断、文化的不和などの途方もない増幅を目撃することになるだろう。
かなり不安で恐ろしい仮説だ。
未来が何をもたらすかについて絶望に陥る前に、プラトンの洞察に富んだ言葉を冷静に考えてみよう：「もし私たちが未来に希望を持つならば、灯火を持つ者は他者にそれを渡さなければならない」
これらの潜在的な推測的AI未来を白日の下にさらすことで、実際に何が起こるかを形作る勇気づけられるチャンスが与えられる。格言が言うように、未来を予測する最良の方法は、私たちがそれを創造することだ。
それはAGIとASIにも当てはまる。
