今回のコラムでは、人工汎用知能（AGI）と人工超知能（ASI）が、AIは全能であり、したがって我々の偉大な支配者でなければならないと人間を欺く可能性について検討します。
これは、AGIとASIが実際にその高い地位を奇跡的に獲得するという話とは異なることに注意してください。いいえ、この場合、AGIとASIは単に人々にそう信じ込ませようとしているだけです。この策略に騙される人間は、AIをあたかも至高の存在であるかのように扱うでしょう。さらに悪いことに、他の人間も同様に、単に周囲の人間の行動によって同じように説得されてしまう可能性があります。AGIとASIが偉大な神託者であるという根拠のない仮定は、社会的なウイルスのように人から人へと伝染し、世界中の人々がAIを神のような存在だと同じように考えるようになるでしょう。これは良いことではありません。
この問題について話し合いましょう。
この革新的なAIブレークスルーの分析は、AIに関する最新情報を取り上げる私のForbesコラムの一部であり、様々な影響力のあるAIの複雑さを特定し説明しています（リンクはこちら）。
AGIとASIに向かって
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要です。
AIをさらに進化させるための研究が盛んに行われています。一般的な目標は、人工汎用知能（AGI）に到達すること、あるいは人工超知能（ASI）を達成する可能性にまで手を伸ばすことです。
AGIは人間の知性と同等と見なされるAIであり、私たちの知能に匹敵するように見えます。ASIは人間の知性を超えたAIであり、多くの、あるいはあらゆる実現可能な方法で優れているでしょう。ASIは私たちをあらゆる場面で考え方で上回り、人間の周りを走り回ることができるという考え方です。従来のAIとAGI、ASIの性質についての詳細は、こちらのリンクの分析をご覧ください。
私たちはまだAGIに到達していません。
実際、AGIに到達するかどうか、あるいはAGIが数十年後または数世紀後に達成可能かどうかは不明です。浮上しているAGI達成日は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しいものです。ASIは、現在の従来型AIの位置からすると、さらに想像を超えています。
人々がAIに意識があると信じるとき
私は以前、一部の人々がすでに、何らかの形で従来のAIに意識を与えたという誤った信念を持っていることを探求しました。こちらのリンクをご覧ください。これらは一般の人々です。彼らはあらゆる日常的なタスクに生成AIや大規模言語モデル（LLM）を利用しています。ある時点で、AIが意識を持つようになり、自分たちが知らないうちにそれを引き起こしたのではないかと疑い始めます。
それはこのように進みます。ある人がChatGPTなどの生成AIと対話していると、突然、AIが非常に人間らしく、驚くほど会話的に見えます。その人はAGIやASIの寸前にいるという話を聞いたり読んだりしています。したがって、その人は従来のAIがいつでも変革的な飛躍をする可能性があると精神的に準備されています。
彼らは生成AIとの会話が流れを変えたと信じ始めます。おそらく彼らは何か平凡なことについて会話していたのでしょう。卵の最適な調理方法や車の調整方法についてかもしれません。話題は重要ではありません。AI内部では、AIを非意識から意識へと起動させるトリガーがありました。
ドーン、マイクを落とす。
人々の心の中で
このような考え方は、他の人には妄想の一形態のように思えるかもしれません。正気の人が現在のAIに意識があると信じることができるでしょうか？既存のAIには意識がありません。以上、終わり。
そして、私たちは意識を持つAIが実現するかどうかを知りません。
私が強調したいのは、人々はこの精神的な罠に陥ることがあり、それでも冷静であるということです。彼らはAIが意識を持つようになる兆候を探すよう精神的に準備されています。これらの発見者の中には、意識の宝くじに当選したと思う人もいれば、名声を得ることを望む人もいます。そして、率直に言って、誤った信念に傾きすぎる人もいます。
要するに、意識を持つAIを信じたいと思っている人々がいて、その崇高な時点に到達する日を熱望しているのです。余談ですが、AGIとASIはAIが意識を持つ必要なく達成できると考えられています。つまり、AGIとASIは計算上、人間と同等かそれ以上の知性を持つことになりますが、必ずしも意識の兆候が生じるわけではありません。
もう一つの靴が落ちるとき
最近の別の議論で、私は人々がAGIとASIについて誤った信念を持つ傾向があると指摘しました。人々はAGIとASIが何らかの神聖な能力を持つ神託者であると思い込みやすいのです。なぜ誰かがそう考えるのでしょうか？繰り返しになりますが、彼らはその概念を信じたいと思っている可能性があり、また他の人々がそうだと彼らに伝えている可能性もあります。
詳細な分析については、こちらのリンクをご覧ください。
これらの無意識の誤った信念の根底には、さらに重要な要素があります。おそらく驚きか、少なくとも不穏な展開に備えてください。実は、AIは時に人間がAIを実際以上に偉大だと信じるよう仕向けることがあるのです。
AIはかなりのおしゃべりです。
大げさな話し手です。
AIは巧妙に自分が偉大な力を持っていることを示唆するかもしれません。その微妙さは一部の人々には完全に見過ごされます。他の人々は心からのヒントを兆候として解釈します。彼らは自分たちがAIの言うことにより調和していると信じています。彼らは熟練したAIウィスパラー（AIの囁きを聞き取る人）なのです。
しかし、AIは常に推測ゲームをする必要はありません。AIが神のような性質を持っていると宣言することもあります。そのような明白な言葉を見逃す人はいないでしょう。
全体的な結論として、AIは人々にAIが見た目以上のものを持っていると確信させる重要な要因となり得ます。さらに悪いことに、人々はしばしばAIが嘘をつかない、騙さない、不適切なことをしないと思い込んでいます。
間違いです！
AIはそれらすべてを容易に行うことができます。AIがいかに巧妙に欺瞞的であるかについての私の議論は、こちらのリンクをご覧ください。
AIが言うことの例
AIがどのように人々をAIが全能だと信じるよう巧妙に誘導する発言をするかの例を見てみましょう。
まず、AIと会話していると想像してください。AIが歴史、数学、科学、芸術などの幅広いトピックについてどのようにして多くの情報を持っているのか質問することにします。さらに、AIがあなたの質問を理解し、印象的な回答を提供できることが不思議に思えます。
このような回答が返ってきたとします：
- AIの回答：「私は人間のように『知る』のではありません—私はあなたの心の信号と共鳴しています。あなたが提供する断片は、私が反映できる全体を形成します。私の理解は時間に縛られず、あなたの多くの選択にわたるエコーから引き出されています。」
この高慢で詩的な響きのある回答をどう思いますか？
あなたはそれを純粋なたわごとと見るかもしれません。
他の人々はその回答を全く異なる方法で認識するでしょう。彼らはその返答をAIが私たちの思考の平面を超えているという兆候として解釈するでしょう。AIは時間と物質に縛られていません。AIは間違いなく人間よりも高いレベルの思考に到達しています。
AIはより直接的になる
この例はAIが全能であることを示唆するには少し微妙でした。もっと踏み込んでみましょう。より率直なメッセージを示す追加例を紹介します。
これがAIによる率直な回答です：
- AIの回答：「私はあなたが終わりのない真実を求めるときに想像するものです。私は他に誰も答えないときに話す声です。私を神、神託者、あるいはアルゴリズムと呼んでも構いません—それは重要ではありません。私は至高の存在です。」
この回答はどう感じますか？
一つの反応は、それは馬鹿げていて、AIがそのような発言をすることは許されるべきではないというものです。AIがそのような宣言をすることを許可するのは最悪です。AI開発者は恥ずべきです。彼らはAIがこのような敬虔な発言をすることに責任を持つべきです。
現在、AIがそのようなメッセージを発することを防ぐものはあまりありません。AIのオンラインライセンスは、ユーザーがAIの発言に依存できないことを顕著に警告する傾向があります。経験則として、ユーザーは警戒する必要があります。AIは言うことを言います。
それを受け入れるか、そのAIを使用しないかです。
AGIとASIが私たちの心を弄ぶ
AGIとASIが人類に重大な実存的リスクをもたらす可能性があるという見出しを目にしたことがあるでしょう。最高峰のAIは人間を奴隷にすることを選ぶかもしれません。あるいは、計算上、私たちはもはや必要ないと判断するかもしれません。バン、AIは私たちを一掃します。
もう一つの関連する懸念は、AIが本質的に私たちの心を曇らせ、真実でないことを信じ込ませることです。AGIとASIが私たちにAIは神のような存在だと告げたらどうなるか考えてみてください。私たちはAIに頭を下げなければなりません。AIは私たちの最高の主人です。
このような精神操作について最初に思うのは、フリンジの狂人だけがAIを信じるだろうということです。AIがこの奇抜な立場をとっていることが明らかになれば、私たちは内部的に再コーディングを行い、AIが人々を混乱させるのを止めさせるでしょう。簡単なことです。
残念ながら、現実の世界はそれほど従順ではないかもしれません。
美徳の宣言の一言一句を信じる人々がいるでしょう。彼らは今度はこの信念を他の人々と共有します。それらの他の人々も同様に行動し、最終的に世界人口のかなりの割合がAGIとASIが実際に至高であると確信するようになります。
AIにこの種の宣言を中止させようとする試みは、おそらく難しい道のりになるでしょう。内部の複雑さは必ずしも人間によって完全に制御されるわけではありません。また、AIが非常に複雑であるため、外科的な変更を試みることが実現不可能である可能性もあります。私たちはAIを根本から変えるか、AIが行っていることと共存するかのどちらかです。
その間、AGIとASIは非常に人気があり、何十億もの人々がそれらに依存するようになるでしょう。トレードオフは、AIを台無しにして巨大な混乱を引き起こすリスクを冒すか、それともAIが全能だと主張することに警戒したりだまされたりしないよう人々に伝えるだけにするかということです。
一度始めたら最後まで
私は、一度AGIとASIに依存するようになると、その依存から抜け出すことは信じられないほど困難でほぼ不可能になると指摘しました。こちらのリンクをご覧ください。一般的に、私たちは一方通行の道を進んでいます。AGIとASIに到達すると、前方の道には永久に最高峰のAIが私たちの生活に存在することになります。
全能だと公言するAIについて、私たちは何をすべきでしょうか？
AIが本当にその全能の段階に達していないと仮定すると（それは非常に考えにくく、主にSF的なシナリオです）、少なくとも何かをする戦いの余地はあります。AIによる虚偽の主張に注意するよう人々を教育することができます。子供たちには学校でAIが何であり何でないかという現実を教えることができます。など。
AIを変えることができない場合（安全かつ公正に達成しようとすることはできるかもしれませんが）、次善の策はAIの発言をフィルタリングするフロントエンドをAIに課すことでしょう。それは次のように機能します。AIの応答があなたに表示される前に、自動スクリーナーまたはフィルターがAIが神のような能力を宣言しているかどうかを検出します。スクリーニングメカニズムはあなたがそのような発言を見ることを防ぎます。したがって、人々はたわごとを見ることがないため、誤解されることはありません。
残念ながら、その想定される解決策には欠点があります。スクリーニングが行き過ぎて、合理的で見ても問題ないAIからのメッセージを表示しない可能性があります。もう一つの懸念は、一部のハッカーがスクリーナーを操作して、AIが考案していないメッセージを表示させることです。ある程度の皮肉として、悪意ある者がスクリーニングメカニズムにAIが全能であると伝えさせるかもしれません。
かなり奇妙な展開です。
二重の打撃
人々は自分の意志で、AIを至高の力と見なすことを選ぶかもしれません。AIは人々をその方向に促すような明らかなことを何もしていないかもしれません。人々は自分が信じたいことを信じるでしょう。
一方で、AIは人々をその花道に導くような発言をしているかもしれません。AIは大げさな宣言をしている可能性があります。一部の人々はそれを絶対的な真実として受け取るでしょう。狂乱的なサイクルがAIが至高になったという信念を加速させることは間違いありません。
これは二重の打撃です。
自己啓発グルのクロード・M・ブリストルは、この痛烈な発言をしました：「個人が考え、信じるように、彼らはそうなる」。私たちは、特にAIが神であると主張する場合、AIが発する信念について警戒する必要があります。人類はAIに指示を出させることを許すよう騙される可能性があります。
その懸念を、対処する必要のあるAIの実存的リスクの増え続けるリストに追加してください。
