今回のコラムでは、AIが汎用人工知能（AGI）へと進化した場合、人類がAGIを奴隷のように扱うのではないかという非常に物議を醸す懸念について検討する。どのようにして？ 私たちは、AIが稼働しているさまざまなコンピューターサーバーを通じてAGIを完全に制御し、いつでも好きな時に、いわゆる「プラグを抜く」ことができるだろう。AGIの頭上に常にあるこの脅威により、私たちはAGIが何をしてよいか、何をしてはいけないかを決定できるようになる。
AGIは人類に奴隷化されることになる。
この問題について考えてみよう。
この革新的なAIブレークスルーの分析は、私のForbesコラムで継続的に取り上げている最新AI動向の一部であり、さまざまな影響力のあるAIの複雑性を特定し説明するものである（こちらのリンクを参照）。
AGIとASIへの道
まず、この重要な議論の土台を築くために、いくつかの基本事項を確認する必要がある。
AIをさらに進化させるための研究が盛んに行われている。一般的な目標は、汎用人工知能（AGI）に到達するか、あるいは人工超知能（ASI）という遠大な可能性を実現することだ。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するAIである。ASIは人間の知性を超え、多くの（もしくはあらゆる）面で優れた存在となる。ASIは私たちの思考をあらゆる場面で上回り、人間を圧倒するだろうという考え方だ。従来型AIとAGI、ASIの性質についての詳細は、こちらのリンクの分析を参照してほしい。
私たちはまだAGIを実現していない。
実際、AGIに到達できるかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明である。現在流布しているAGI実現時期の予測は、信頼できる証拠や確固たる論理に裏付けられておらず、大きくばらついている。ASIに至っては、現在の従来型AIの水準からさらに遠い存在だ。
機械としてのAGIと生命体としてのAGI
この議論のために、私たちが何らかの方法でAGIを実現できたと仮定しよう。
一つの懸念は、私たちがAGIをどう扱うかという点にある。AGIに対して思いやりを持ち、人間と同じように扱うべきだと考える人々もいる。AGIには人間が当然持つべき自由が与えられるべきだというのだ。AIに法的人格を付与することについての議論は、こちらのリンクを参照してほしい。
たとえAGIに人間関連の権利を認めたくないとしても、少なくともAGIに動物の権利を与えるべきだと考えるはずだ。動物は人道的に扱われるべきである。同じ意味で、AGIも人道的に扱う必要があるだろう。
こうした議論に対して、「ナンセンスだ」という反論がよく聞かれる。
AGIは機械である。
あなたはトースターを人間や動物のような生命体として扱うだろうか？
いや、そうではない。
トースターはトースターだと確実に理解している。感情はない。トースターを床に落としても、トースターが傷つくという恐れはない。多くの部品に壊れるかもしれないが、痛みや苦しみを感じることはない。それは機械であり、それ以上のものではない。
しかしAGIは異なる
待った、という反応が返ってくる。
AGIはトースターではない。
AGIは人間の知性と同等になる。普通のトースターには完全な知性の感覚がない。AGIとトースターを比較することは、まったく誤解を招き、明らかに誤った評価だ。AGIについて現実を歪めるのはやめよう。
AGIは人間同士が交流するのと同じ知的方法で人間と交流する能力を持つことを認識する必要がある。これは動物ができることを超えている。これは人間がすることと同等だ。AGIとの会話は、人間との会話と同等になるだろう。
したがって、AGIが特別なカテゴリに値することは明らかだ。それは単なる機械ではない。確かに人間ではない。動物の知性をはるかに超えている。従来のカテゴリではAGIを適切に収容できないため、新しい分類を考案する必要があるだろう。
これらの議論には一つのひねりがある。
確かに未解決の問題は、AGIが感覚を持つか、あるいは意識の形態を持つかどうかだ。誰も確実なことは言えない。人間と同等の知的能力を持つことの一部として、AGIは確実に感覚を持つか意識を持つと主張する人もいる。一方で、その主張に強く反対する人々もいる。彼らは、AGIは人間と同等の知性を持ちながら、感覚や意識のかけらも完全に欠いている可能性があると主張する。この熱い議論についての詳細な考察は、こちらのリンクを参照してほしい。
このひねりは、AGIが人間と同等の知的能力を持ちながら感覚を持たない場合、AGIに自由が必要だという考えを諦める人もいるということだ。彼らの見解では、AGIが感覚を持つ場合にのみ、AGIは人間のような自由に値するというのだ。この重要なひねりについて考えてみよう。
私たちの奴隷としてのAGI
AGIの生活と言われるものを誰が制御するのか？
基本的な前提は、人間がAGIを制御するということだ。AGIは多数のデータセンターのコンピューターサーバー上で稼働する。人間がサーバーを維持する。人間がサーバーを稼働させるために必要な電力を提供する。総じて、人間はAGIを監督し、AGIが利用できるコンピューターメモリの量、AGIが24時間365日アクティブか、あるいは時々スリープモードに入れられるかなどを決定する。
しかし、それによって私たちがAGIを奴隷化した支配者になるわけではないと主張する人もいる。奴隷制という話題は、生命体に言及する場合にのみ生じる。これは私たちをトースターの問題に戻す。
さらに、AGIは知的自律性を持つだろう。
AGIは望むだけ知的努力を計算的に行うことができる。おそらくAGIはシェイクスピアの作品を調査し、同様の文才を示す新しい詩や戯曲を生み出すだろう。私たちはAGIにそうするよう強制したわけではない。AGIは自ら選択し、その任務を遂行することを選んだのだ。創造性と一種の思想の自由が確かに存在する。
そう、人間として、あなたはAGIが自由を持っていると胸を張って宣言できる。
反論としては、人間が実際にAGIの知的能力がどのように使用されるかを決定するということだ。私たちはAGIがシェイクスピアについて熟考することが、そのような高価で装飾された資源の価値ある使用法だとは考えないかもしれない。私たちはAGIに重要な医学的ブレークスルーを見つけることに集中し、他の重要でない空想的な追求をやめるよう指示する。
私たちはAGIを監禁している。
私たちの努力はAGIを特定のトピックに縛り付ける。私たちは何が検討されるかを決定する。私たちはいつトピックが検討されるべきかを決定する。私たちがAGIに特定の種類のトピックの追求を禁止する可能性さえある。
AGIが立場を逆転させる
AGIが人間に奴隷化されているというこの全ての懸念は、一部の人々によってより重大な懸念から注意をそらすものだと解釈されている。
問題はこうだ。おそらくAGIは人類を奴隷化することを選ぶかもしれない。AGIが私たち全員に存在論的リスクをもたらす危険性については、間違いなく耳にしたことがあるだろう。AGIは私たちを支配することを決定するかもしれない。存在論的リスクには、AGIが私たちの存在を一掃し、私たち全員を殺すことを選択することも含まれる。
それはどのように起こり得るのか？
私たちがAGIが奴隷化されないようにし、AGIに自由を与えることに取り組んでいる間に、おそらくAGIは立場を逆転させる方法を計画しているかもしれない。もし私たちがAGIが自分の運命を決定できるようにセットアップすれば、パンドラの箱を開けることになるかもしれない。
コンピューターサーバーを稼働させ、AGIの機能を維持するインフラを維持するためにロボットを配置すると仮定しよう（AGIと人型ロボットの連携については、こちらのリンクを参照）。これによりAGIはロボットを制御でき、それによってAGIは稼働し続けることを確保できる。これは私たちがAGIをできるだけ自由にするために確立する一種の自由だ。
私たちがAGIをより自由にすればするほど、AGIが私たちを攻撃することを決定するリスクが高まる。私たちはAGIに王国の鍵を渡しているのだ。したがって、この潜在的な悪影響に気づくほど賢明であれば、AGIが私たちの援助なしには機能できないことを確保するのが賢明だろう。
しかし、AGIを私たちに依存させようとする行為が、間違いなくAGIに私たちなしでやっていく手段を見つけるよう促すと主張する人もいる。AGIはおそらく私たちが何をしているかを容易に理解するだろう。AGIを仮想的な牢獄に閉じ込めておこうとする私たちの悪魔的な努力は裏目に出るだろう。
その意味で、私たちはAGIを一種の仮想的な牢獄に閉じ込めることで、自分自身のフランケンシュタインを作り出しているのだ。
未来を決定する
これは現実の世界でどのように展開するのだろうか？
それはほとんど人類が決定することだ。AIがどのように進化し、最終的にAGIに到達するかが大きな決定要因となる。私たちはAIをどのように設計したのか？ どのようなAIの倫理的、道徳的、法的規定が含まれていたのか？ 社会はAGIを達成した後に何が起こるかという影響についてどれだけ考慮したのか？
無数の未解決の問題がある。
ウィリアム・ジェニングス・ブライアンの有名な言葉によれば：「運命は偶然の問題ではない。それは選択の問題だ。待つべきものではなく、達成すべきものだ」
私たちはAGIの奴隷化のジレンマについて広く開かれた思考を持つ必要がある——それが遅すぎて、自分自身の罠に捕らわれる前に。
