今回のコラムでは、AIが人工汎用知能（AGI）に進化したという、ますます悪質になる主張に関して続いているもぐらたたきの策略について検討する。このような主張はますます大胆かつ無謀になることが十分予想される。虚偽を見つけて打ち砕こうとする試みは、まさに猫とネズミのような追いかけっこだ。AGIの香りのほんの少しでも、虚偽の目撃情報を後押しし、センセーショナリズムと、それに伴う誤った賞賛や注目を必死に求める人々によって、過大な見出しを生み出すのに十分なのである。
この問題について話し合おう。
この革新的なAIブレークスルーの分析は、AIの最新動向に関する私のForbesコラム連載の一部であり、様々な影響力のあるAIの複雑さを特定し説明するものである（リンクはこちら）。
AGIとASIに向かって
まず、この重要な議論の舞台を整えるために、いくつかの基本事項が必要だ。
AIをさらに進化させるための研究が盛んに行われている。一般的な目標は、人工汎用知能（AGI）に到達するか、あるいは人工超知能（ASI）を達成する可能性にまで手を伸ばすことだ。
AGIとは、人間の知性と同等と見なされ、私たちの知能に匹敵するように見えるAIである。ASIは人間の知性を超え、実現可能なあらゆる面で優れているAIだ。ASIは私たちの思考をあらゆる場面で上回り、人間を圧倒するだろうという考えがある。従来のAIとAGI、ASIの性質についての詳細は、こちらのリンクで私の分析を参照してほしい。
私たちはまだAGIに到達していない。
実際、AGIに到達するかどうか、あるいはAGIが数十年後または数世紀後に実現可能になるかどうかは不明だ。浮上しているAGI達成時期の予測は、信頼できる証拠や確固たる論理によって裏付けられておらず、非常に多様で根拠に乏しい。ASIに至っては、現在の従来型AIの状況からすると、さらに非現実的だ。
AGI達成の主張が浮上している
誰もがAGIの達成を熱心に待ち望んでいる。
その膨大な期待に応えるため、AGIが達成されたと宣言することを厭わない熱心な主張者たちが大勢いる。AIの進歩が続くにつれ、今年と来年にかけてこれらの虚偽の目撃情報が増加することが予想される。AGIには到達していないものの、AGIに近づいているという単なる示唆や前触れだけで、鶏が騒ぎ立てるのに十分だろう。
誰がこれらの虚偽の主張をするのだろうか？
多くの怪しい人物たちと、自分は正直な真実を語っていると本気で信じているように見える人々もいる。小麦と籾殻を分けることは難しいだろう。さらに、この2種類の目撃情報は互いに影響し合う傾向がある。
例えば、本物のAI専門家がAGIが達成されたと言ったとしよう（しかし彼らは間違っている）。この権威ある主張は、偽物たちがすぐにその勢いのある流れに飛び乗る原因となる。彼らは、その宣言者が残念ながら間違っているにもかかわらず、単に本物の宣言者を指差すことで簡単に責任から逃れることができる。
逆方向も容易に起こりうる。偽物がAGIに到達したと言ったとする。メディアはその根拠のない主張に同調することに慎重かもしれない。多くのAI専門家が、判断を下す前にさらなる調査が必要だと思慮深く述べると仮定しよう。
しかし、それはリアルタイムの反応を求める急速なメディアサイクルには役立たない。そこでメディアは、AGIの発見を承認する意思のあるAI専門家を一人見つける。すると、メディアはこの宣言を喜び、少なくとも一人のAI専門家から認めてもらったことで、AGIが達成されたと自由に宣伝できると感じるのだ。
要するに、AGI達成の主張とその主張の否定が短期間で繰り返される卓球の試合に備えるべきだ。あなたの頭と心はAGI目撃情報による鞭打ち症に苦しむことになるだろう。
ゴールポストを動かすのは刺激的
AGIが達成されていないのに、どうして誰かがAGIが達成されたと合理的に主張できるのだろうか？
最も巧妙な策略は、単純にAGIの意味を再定義することだ。これはスポーツイベントでゴールポストを動かすようなものだ。ボールを蹴れる距離に合わせてゴールポストを近づければ、どれだけ遠くまでボールを蹴っても、それを超えることができる。同じことがAGIの定義にも当てはまる。AI開発者やほぼ誰でも、AGIはAGIの本来の意味よりもはるかに印象の薄いものを意味すると宣言できる。
このゴールポスト操作の典型的な例として、サム・アルトマンがどのように「チーズを動かした」かについては、こちらのリンクで私の議論を参照してほしい。彼は繰り返しAGIの定義を言い換え、OpenAIなどのAI開発者がAGI達成に近づいていると宣言しやすくするために、そうしているように見える。
この策略はこのように機能する。AGIを人間の知性全体と同等のAIであると示す代わりに、範囲を狭めることで自分自身により多くの余地を与えることができる。一つの角度は、AIが特定の限られた知的領域と同等であれば、AGIに到達したと主張することだ。あるいは、AIが経済的に強力な場合にのみAGIであると主張する。意味論の多くの狡猾な心理戦が、AGIの達成をはるかに実現可能にするために便利に使用できる。
目と耳を開いて、誰かがAGIが達成されたと宣言し始めたとき、AGIという名称で何を意図しているのかを必ず解明しよう。
独立したAGI監視機関
示唆に富む提案として、独立したAGI監視機関として機能する世界的な組織を設立することを検討すべきだという意見がある。この組織は、AGIが達成されたという主張を世界中でスキャンする。それらの主張を検討した後、監視グループは各主張の真偽について公式で信頼性のある発表を行う。
国連がこの役割を担うべきだと考える人もいる。国連はすでにAIの進展を評価・監視することに深く関わっており、こちらのリンクで私の報道を参照してほしい。したがって、AGI主張を選別するために国連に頼ることは自然な次のステップのように思える。
一方で、完全に独立した組織を形成すべきだと主張する人もいる。それはAGIに関する審議において、特定の国や国家に依存しないものになるだろう。おそらく、世界中の著名なAI専門家が、その国籍に関係なく相談されることになる。
懐疑論者は、これらの工夫や歪曲が必要だとは考えていない。彼らの視点では、私たち全員がAGIに到達したかどうかを容易に見分けることができるというものだ。私たちは自分の目でそれを行うことができる。AGIがここにあるかどうかを教えてくれる特別な組織やグループは必要ない。AGIの存在は明らかに明白になるだろう。
官僚機構を形成することを忘れて、AGIが出現したかどうかを判断するために日常の常識に頼ればいいのだ。
AGIに関する虚偽の主張は不安を引き起こす
私がAIの最新動向やAGI達成に向けた取り組みについて講演するとき、ほぼ必ず「なぜAGIを達成したと虚偽の主張をする人がいても問題なのか」という質問を受ける。その視点は、誰かがAGIについて主張し、それが間違っていると示されても、害は生じないというものだ。水に流せばいい。私たちは前に進み、世界は回り続ける。
残念ながら、AGI達成に関する虚偽に不安を感じるべき厳しい理由がある。
重大な問題は、それらの主張が社会的・認識論的な危険となりうることだ。一部の人々はAGIの発表に対して軽率に反応するかもしれない。AGIは人類の終わりになると固く信じている人々がいる。AGIは私たち全員を一掃するだろうと。そのような信念を持つ人々は、AGI主張によって容易に引き金を引かれ、自分自身や他者に有害な行動を取る可能性がある。
あらゆる種類の早まった反応が活性化される可能性がある。大勢の人々を包み込む広範な恐怖を想像してみよう。もう一つの極端な例は無関心だ。AGIの出現により、人間はもはや働く必要がなく、大きな余暇のある生活を送ることができると信じる人もいるかもしれない。反応は広範囲にわたり、あらゆる方向に向かうだろう。
もう一つの懸念は、誤報と「オオカミ少年」の行為による燃え尽き症候群だ。それがどのように進むか知っているだろう。この文脈では、こういうことだ。AGIの虚偽の主張が世界中を駆け巡る。その話はやがて否定される。新しい主張が世界中に飛び交い始める。それも否定される。最終的に、人々はAGIの虚偽の目撃情報に疲れ果てる。そして、もし私たちが本当にAGIを達成したとしても、人々は以前の虚偽の目撃情報のために完全に不意を突かれ、より悪い反応を示す可能性がある。
真実を求めることは完全に正当
総じて、AGIに関する虚偽の主張を減らすことには大きな価値がある。もぐらたたき現象に備えることは非常に価値がある。私たちはAGIに関する真実が知られるようにし、不実が暴露され打ち砕かれるよう努めなければならない。
この重要なトピックについて、今のところ最後の考えを述べよう。
アルバート・アインシュタインは真実を掘り出すことの重要性について有名に述べている：「真実の探求に関しては、多くの行き止まりのある自分自身の苦痛に満ちた探索から、真に重要なものの理解に向けて、どんなに小さくても信頼できる一歩を踏み出すことがいかに難しいかを知っている」
AGIに関する真実は壮大に価値ある使命であり、それが絶対的な真実だ。
