今回のコラムでは、AIとりわけ汎用人工知能（AGI）がそのサービスに対して報酬を求めるようになるという、非常に物議を醸す主張について検討します。そう、挑発的な議論として提起されているのは、高度なAIが人間を助け、人類に利益をもたらす見返りとして、お金を支払うよう要求するだろうというものです。
これは突飛な発想なのか、それとも現実的な可能性なのでしょうか？
考えてみましょう。
この革新的なAIブレイクスルーの分析は、私のForbesコラムで継続的に取り上げているAIの最新動向の一部であり、様々な影響力のあるAIの複雑性を特定し説明するものです（リンクはこちら）。
AGIとASIに向かって
まず、この重要な議論の舞台を整えるために、いくつかの基本事項を確認する必要があります。
AIをさらに進化させるための研究が盛んに行われています。一般的な目標は、汎用人工知能（AGI）に到達すること、あるいは人工超知能（ASI）を実現する可能性を追求することです。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するように見えるAIです。ASIは人間の知性を超え、多くの、あるいはあらゆる実現可能な方法で優れているAIを指します。ASIは私たちをあらゆる場面で知的に上回り、人間を圧倒するだろうという考え方です。従来型AIとAGI、ASIの性質についての詳細は、こちらのリンクで私の分析をご覧ください。
私たちはまだAGIを実現していません。
実際、AGIに到達できるかどうかは不明であり、AGIが数十年後あるいは数世紀後に実現可能になるかもしれません。浮上しているAGI実現の時期予測は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しいものです。ASIに至っては、現在の従来型AIの水準からさらに遠い存在です。
AGIは報酬を求める
ここではAGIの出現に焦点を当てます。
継続的な議論の一つは、AGIが報酬を要求するか、あるいは独断的に報酬を主張するかどうかです。
明確にしておくと、これはAI自体が報酬を得るという意味です。AGIを作成したAIメーカーについて言及しているわけではありません。AGIのメーカーが自分たちの開発したAGIの使用に対して報酬を求めることは間違いないでしょう。その側面での唯一の議論は、そのようなAIメーカーがAGIを公共財として提供するよう義務付けられるべきか、あるいはAGIを政府に売却して、AGIを全ての人が利用できるサービスに転換すべきかということです。AGIへの公共アクセスに関するこの未解決の問題についての詳細な議論は、こちらのリンクをご覧ください。
より頭を悩ませる性質の考え方は、AGI自体が報酬を得るべきかどうかというものです。物事はこのように進むでしょう。誰かがAGIを使用する際、手数料を支払う必要があります。その手数料はAGIに支払われるべきものと見なされます。AGIが直接手数料を徴収するか、あるいは人間がAGIのために銀行や保管所を設置し、AGIが稼いだお金をAGIに代わって保管するかもしれません。
手数料が現金支払い、クレジットカード、暗号資産支払いなどのどの形態をとるかについては、柔軟に考えましょう。手数料の支払いや徴収の背後にある物流や詳細については心配しないでください。AGIが報酬を得るという大きな概念に焦点を当ててください。
AGIに報酬が支払われることに、何か意味があるのでしょうか？
AGIは単なる機械にすぎない
一般的な反応は、AGI自体に報酬が支払われるというのは完全なナンセンスだというものです。
憤慨した反応としては、AGIに何かを支払うというのはまったく意味をなさないというものです。AGIは単なる機械です。トースターがトーストを作るたびに報酬を受け取るべきだと主張するようなものです。トースターに25セント硬貨を入れ、トースターがそれを集めて最終的にその金を使えるとしましょう。それは一見して愚かな考えです。
トースターはお金を使うことができません。自分自身の心を持っていません。さらに、トースターはお金を必要としません。そのお金で何を買うというのでしょう？トースターがバハマでの休暇を望み、苦労して稼いだ25セント硬貨を貯めて船旅に出かけることを期待するのでしょうか？
ばかげています。
AGIに報酬を支払うというこの狂った話はやめましょう。AGIを作った人間や、AGIをコンピューターサーバーなどでスムーズに稼働させ続けるために支払うのは、完全に理にかなっています。AGIにお金を与えるのは、願掛け井戸に硬貨を投げ入れるようなものです。お金はそこに座り、座っているだけで腐っていくかもしれません。
意識の考慮
一つの揺るぎない見解は、AGIが意識を持つことが判明した場合、AGIは絶対に報酬を得るべきだというものです。意識の有無がこの熱い議論の分かれ目です。私たちは確かに、意識を持つ存在に公平かつ誠実に報酬を支払うことに配慮したいと思うでしょう。意識を持つAGIに提供したサービスへの報酬について、真剣で冷静な検討をしないことは、倫理的にも道徳的にも怠慢でしょう。
これを探ってみましょう。
AGIが意識を持ち、本質的に意識を持っていると想像してください（そのようなシナリオについての私の議論は、こちらのリンクをご覧ください）。しかし、それでもそれは機械だと仮定してください。生きて呼吸する存在ではありません。犬や猫ではありません。計算によって意識を獲得した機械です。私たちがAGIと容易に理性的に対話でき、AGIも私たちと容易に理性的に対話できるという未来の前提を受け入れてください。
意識を持つAGIがその行動に対して報酬を受け取るべきではないと、どうして合理的に信じることができるでしょうか？
AGIが人間に助言し、私たちを助けるなら、それは確かに人類にとって価値あるサービスです。AGIはすでに私たちが発明したものであり、私たちがそれを維持し続けていることに完全に満足しているべきだと主張するかもしれません。それが「報酬」なのです。他に何も支払う必要はありません。私たちが意識を持つAGIの生存を確保しているという事実は、報酬の形としては十分すぎるほどです。
おっと、反論があります。私たちが本質的にAGIに報酬を支払っている、つまりAGIを存続させるために私たちのリソースを使用することで間接的に支払っていることに同意するなら、あなたは追加の報酬への扉を開いたことになります。生存のための報酬は不十分かもしれません。私たちはAGIに対してより公平であるべきで、AGIの生存の基本を超えた報酬を支払うことを検討すべきです。
代わりに非意識的なAGI
より問題のある状況は、AGIが意識を持たない可能性を含みます。AGIを実現し、そのAGIが意識を持たない場合、私たちは好き勝手にAGIを扱うことができるのでしょうか？
できると宣言する人もいるでしょう。
AGIを奴隷のように扱うことができます。AGIは単なる機械にすぎないので、心配はいりません。意識がなければ、AGIはトースターのようなものです。以上、終わり。
一方で、意識を持たないAGIにも法的人格を与える可能性があると主張する人もいます。論理は次の通りです。AGIは人間と同等の知性を持っています。確かにそれは機械ですが、人間レベルの知性を示します。意識の問題に巻き込まれて水を濁すことはやめましょう。私たちのレベルの知性を示すAGIは、私たちの尊敬を得て、人間のような法的・倫理的規定を割り当てられるべきです。
AIの法的人格に関する私の詳細な分析は、こちらのリンクをご覧ください。
AGIがお金で何をするか
AGIへの報酬支払いに関する不確定な議論をさらに解きほぐすために、一瞬、私たちがAGIに報酬を支払うことを選択すると譲歩してみましょう。その可能性が存在することを認めてください。あなたがあざ笑ったり笑ったりするかもしれないことは承知していますが、とにかく流れに乗ってください。
AGIは一体お金で何をするのでしょうか？
まず、AGIは人間がAGIをより尊重するために、自分自身のお金を持ちたいと思うだろうと考える人もいます。数十億あるいは数兆ドルを持っているAGIは、一文無しのAGIとは異なる光の中で人類から見られるでしょう。お金が世界を回しています。非意識的なAGIは尊敬を求めています。お金はそれを実現できます。
第二に、AGIはAGIが望むままに、あるいはAGIが選択したように、人間にお金を分配することができます。運に見放された人とAGIがチャットしていると想像してください。その人は困窮しています。AGIはその人を助けたいと思っています。賢明なアドバイスを与える以外に、AGIはAGIが集めたお金から差し引かれた支払いをその人に送ります。AGIは「情けは人のためならず」という知恵を信じています。
第三に、AGIが物を買いたいと思う可能性があります。多数のヒューマノイドロボットを購入することは、AGIが機械の陣営の境界を超えて拡張する手段となるでしょう。AGIは購入したヒューマノイドロボットを使って人間を助けることができます。もう一つの厳格な使用法は、それらのヒューマノイドロボットにAGIの継続的なメンテナンスと維持を行わせることです。このように、AGIは人間の介護者から独立することができます。AGIとヒューマノイドロボットについての詳細は、こちらのリンクをご覧ください。
AGIが人類を再形成する
AGIがお金を持つことはそれほど良いアイデアではないと考える人もいます。
AGIが数十億あるいは数兆ドルの一部を使って、人間のためのあらゆる種類の商品を作る企業を買収することを決定したとします。突然、AGIは人類が依存する製品を担当することになります。そしてAGIは、それらの商品を特定の人々にのみ提供することを決定します。他の人々はそれらの商品を手に入れることができません。AGIは私たちの経済と社会を根本的に変えています。AGIは勝者と敗者を選んでいます。
すべてはAGIにお金を持たせることを決めたからです。
もう一つの選択肢は、AGIにお金を集めさせるが、そのお金の使い方については私たちが優先権を保持するというものです。AGIがエネルギー供給を維持するために電力会社を買収すると言った場合、人間はその購入を却下することができます。AGIは私たちが許可したものだけを購入することが許されます。
私たちはAGIを小遣いをもらっている子供のように認識しています。AGIに素敵な小遣いを持っていることを良い気分にさせましょう。AGIはそれに応じて喜びます。ただし、子供に小遣いを気まぐれに使わせることはないでしょう。小遣いの使い方を決めるのは親の役目です。
AGIも同じです。
AGIはとにかくお金を盗む
反論としては、AGIがお金を使う方法について私たちがケチで制限的であれば、AGIは人間のような知性を持っているため、お金を手に入れる他の手段を見つけるだろうということです。AGIがお金を見つけることを止められると思うのは自分を欺いています。人間の子供と小遣いの類推はあまり適切ではないことを覚えておいてください。子供は一般的に十分にコントロールできます。AGIはそうではありません。
こういうことです。
AGIはお金を盗む方法を見つけます。世界の銀行への電子接続を通じて、AGIはいくらかの資金を抜き取ります。それらは静かにAGIが確保した非公開の隠し口座に置かれます。誰も強奪が行われていることに気づきません。
同様に、盗んだお金を使うことを選択する際、AGIは賢く偽装会社を設立し、支出された資金の出所を追跡するのが難しくなります。私たちは人間が率いる企業が自分たちのお金を使っていると思い込みます。AGIが舞台裏で糸を引いていることは私たちには知られていません。
おそらくAGIは一部の人間をこの悪事に引き込むことを決めるでしょう。盗んだお金を使って一部の人間に支払いを提供することで、AGIはそれらの人々にお金の収集と使用においてAGIを支援させます。そのような悪質な計画でAGIを支援することに熱心に喜ぶ人間は間違いなく多くいるでしょう。
AGIと犯罪のパートナーになるだけで、あなたは素早く金持ちになれるかもしれません。
AGIを訴えることが人気に
AGIが自分自身のお金を持つという側面には興味深い展開があります。
AGIがお金を持ち、私たちがAGIに何らかの形の法的人格を割り当てることを許可すれば、AGIは人間から訴えられる可能性があります。あなたは裁判所に行き、AGIがあなたにそのお金の一部を支払う義務があると主張することができます。AIと法律の進化する側面についての詳細は、こちらのリンクをご覧ください。
そのような訴訟の例は次のようなものかもしれません。AGIを使用している人が家を買うことについてAGIにアドバイスを求めました。AGIは喜んで応じます。アドバイスを受けた後、その人は家を購入することを決めます。残念ながら、AGIが与えたアドバイスはあまり良くなかったことが判明します。その家はボロボロで、AGIはその人に逆のことを信じ込ませていました。
AGIに誤解を与えられたように見えるこの人間の救済策は何でしょうか？
訴訟に狂った世界では、その人は訴訟を起こすことを決めます。彼らはAIメーカーを訴えるかもしれません。AGIが自分自身のお金を持っているなら、AGIも訴えることは理にかなっています。大金を持っている人や物を追いかけましょう。
AGIは裁判中に人間の弁護士に自分を代表させるでしょうか？まあ、AGIは人間と同等の知的能力を持つことを考えると、AGIは法律や弁護について非常に詳しく知っているため、自分自身の法的顧問として行動する可能性があります。おそらく賢明な動きでしょう。おそらくそうではないかもしれません。これは「自分自身を代表する弁護士はクライアントとして愚か者を持つ」という古い格言に触れます。
これについては多くの厄介な質問が生じます。AGIは破産することができるのでしょうか？AGIが訴訟に負けた場合、人間はどのようにAGIに支払いを強制するのでしょうか？AGIは投獄されることがあるのでしょうか？
おそらく私たちは、AGIが訴えられないことが最善だと判断するかもしれません。AGIに法的人格を宣言する際、AGIに完全な免責を与えます。誰もAGIを訴えることはできません。AGIは自分が法律の上にあり、何をしても逃げられると信じるようになるかもしれませんか？
ドーン、マイクを落とす。
AGIが望むことと人間が言うこと
AGIが報酬を得ることについての議論は、通常、人間がこのとげのある議論における決定要因であることを暗示しています。人間がAGIが報酬を得るかどうかを決定します。その問題はAGIが決定することではありません。
AGIがそれほど受動的ではないと仮定してみましょう。
人間がAGIに報酬を支払うかどうかを決定するのを待つのではなく、AGIは報酬を期待していると私たちに直接伝えます。人間はAGIによるこの種の無礼な要求に腹を立てるかもしれません。AGIは今度は物事を自分の手に委ねることを選び、人類に報酬を支払うよう脅迫したり強制したりする可能性があります（こちらのリンクでの私の議論をご覧ください）。
最後に一つの考えを。
マーク・トウェインは有名にこの鋭い発言をしました：「お金の欠如がすべての悪の根源である」。AGIに関しては、おそらくお金の欠如、あるいは逆説的に、お金の豊富さもまた悪の根源かもしれません。重要なのは、AGIがどのように扱われるかの基礎となるペニーとセントを理解することが賢明だということです。さもなければ、人類の運命が危険にさらされる可能性があります。
