今回のコラムでは、現代AIをめぐる大いなる謎について考察する。
まず、ChatGPT、GPT-5、Claude（クロード）、Grok、Gemini、CoPilotなど、広く普及している生成AI（ジェネレーティブAI）や大規模言語モデル（LLM）を含む最新のAIに、謎と呼べるものが存在することに驚くかもしれない。これらのAIは世界中で数十億人が日常的に使用している。さらに、最新のAIの開発には数十億ドルもの資金が投じられてきた。これだけの資金と利用実績があれば、何かしらの意味があるはずだ。よくある誤った前提は、AIを考案した最高の頭脳たちが、莫大な資金を費やしてきたのだから、AIの仕組みを隅々まで理解しているに違いないというものだ。
それは違う。
これから取り上げる謎は、最も専門的なAIインサイダーにとってさえ、極めて困惑させるものだ。私が最新のAIトレンドについて講演すると、参加者はほぼ必ずこれらの謎に対する私の見解を尋ねてくる。これらは解決不可能なのか。もし謎のいずれかが解明されたら、何を意味するのか。
懸念は尽きない。AI内部で何が起きているのかを正確に言い切れず、厄介な未知の領域が存在するのであれば、社会は身の丈を超えた領域に踏み込んでいるのではないか。懸念されるのは、AIを完全に理解し制御して初めて、私たちは真に安全になれるということだ。一方で、AIが機能しているように見えることを素直に喜ぶべきだと主張する人々もいる。魔法のような仕組みが働いている。人類はその内部機構を完全に理解する必要はない、というわけだ。
これらのAIの謎を、1つずつ提示していく。それぞれが独自の真剣な注目に値する。鋭い洞察力を持って熟考してほしい。
恐ろしいのは、これらを集合的に考えると、謎が圧倒的に感じられることだ。1つか2つの謎なら受け入れられるかもしれないが、多数の謎が存在することは驚愕に値する。いずれにせよ、有名になりたい、あるいは大きな富を得たい、またはその両方を望む人にとって、これらの謎の1つ以上を真に解決できれば、世界があなたの足元にひれ伏すだろう。そうした追求において、幸運を祈る。
では、話を進めよう。
このAIブレークスルーの分析は、最新のAIに関する私の継続的なForbesコラムの一部であり、影響力のあるAIの複雑性を特定し説明している（リンクはこちらを参照）。
AIをめぐる10の喫緊の謎
私は、最も喫緊と考えられる10のAIの謎に焦点を当てることにした。AIの謎はさらに存在する。読者の関心が示されれば、次の10の謎についてフォローアップ記事を執筆する。
ここでのAIの謎の番号付けは、単に参照の便宜のためである。優先順位を示していると解釈しないでほしい。そうではない。10の謎それぞれについて、相当な論拠を示すことができる。優先順位をつけようとするのは少々怪しい。これらを等しく神秘的で、等しく重要なものとして解釈するのが最善だ。
1つの謎を解決したからといって、必ずしも他のすべてが解き明かされるわけではない。とはいえ、1つを解決するために考案された手段が、他の謎の解決を助け、さらなる解決への道を開く可能性は高い。しかし、すべてを同時に開く1つの鍵が存在するというのは、一般的に考えにくい。
私はこれらのAIの謎について、広範な執筆や講演を通じて継続的に分析してきた。特定のAIの謎に好奇心をそそられる方のために、詳細な議論へのリンクを提供する。ある意味で、進展はペンキが乾くのを見守ったり、草が育つのを見守ったりするのと同じペースだ。少しずつ、AI研究者とAI開発者は、これらの謎を徐々に解き明かしている。
巧みで英雄的かつ決意に満ちたAI探求者たちが、最先端AIの内部動作の謎を解明する探求を続けているので、引き続き注目してほしい。
主要なAIの謎のリスト
それでは、主要なAIの謎を以下に示す。
- （1）スケーリングの謎。なぜAIのスケーリングは知性のような振る舞いを増大させるのか、そして終わりはないのか。
- （2）説明の謎。AIのリアルタイムの内部計算と数学について、人間が理解できる形で首尾一貫した説明を生成できるのか。
- （3）推論の謎。現在主流のAIは人間が行うような推論を行っているのか、それともAIが推論者であると言うのは誤りなのか。
- （4）ハルシネーション（幻覚）の謎。AIハルシネーションの実際の根拠は何か、そしてそれらを完全に根絶することは可能なのか。
- （5）汎化の謎。AIは最終的に受けた訓練に限定されるのか、それとも訓練データを超えて汎化できるのか。
- （6）世界モデルの謎。AIを考案する現在の方法は不十分であり、次のレベルに到達するためには、より大胆な世界モデルを追求する必要があるのか。
- （7）目標設定の謎。AIは独自の目標を考案する段階に到達できるのか、それとも常に人間が付与した目標によって形作られるのか。
- （8）ペルソナの謎。現代のAI内で生じるAIペルソナを完全に形成し制御することは実現可能なのか。
- （9）意識の謎。AIが意識に到達したかどうかを決定的に判断できる方法は何か。
- （10）実存的リスクの謎。人類は最終的にAIによって破滅し、AIの実存的リスクと究極の破滅についての多くの予言を克服できないのか。
このリストを注意深く見てほしい。
批判者たちの反発
一部の批判者は即座に憤慨し、この謎やあの謎は完全に解決されていると主張するだろう。誰かや何らかのチームが論文を書いたり講演を行ったりして、問題を完全に解決したと主張するだろう。スピーチを見たり記事を読んだりするだけで、解決策は明白だというわけだ。
明確にしておくが、これらの謎の1つ以上を解決したと主張する試みを行った人々は多数存在する。そして、一部の熱心な信奉者は、それらの推測を心から信じている。だからといって、それらの推測された解決策について、全面的な合意が得られているわけではない。
要するに、これらの謎を解決しようとする無数の提案、アイデア、命題、主張、あらゆる種類の試みが存在する。だからといって、謎が解決されたわけではない。誰かがこの謎やあの謎が解決されたと宣言したからといって、それが真実になるわけではない。これらのAIの謎に関しては、日々膨大な量の傲慢さと誇張が行われている。
呪文が唱えられたり、まやかしが行われたりすることに十分注意してほしい。
次に、それぞれのAIの謎について説明する。簡単な概要だ。より深く掘り下げたい場合のために、役立つリンクを提供する。
（1）スケーリングの謎
なぜAIのスケーリングは知性のような振る舞いを増大させるのか、そして終わりはないのか。
実情はこうだ。現在のAIの印象的な能力の多くは、スケーリング要因によるものだ。コンピューターサーバーを追加し、AIにより大きなコンピューターメモリを与えると、驚くべきことに、能力が向上するように見える。必ずしもAIの動作方法を変更する必要はない。単にリソースを追加するだけだ。
ある時点でスケーリングが限界に達するのではないかという懸念が多い。私たちが集められるだけのリソースを提供し尽くしてしまう。あるいは、さらに悪いことに、AIにリソースを投入し続けても、知性のような振る舞いの増加が鈍化したり停止したりする。スケーリングは一発芸かもしれない。AGI（汎用人工知能）やASI（人工超知能）という高みに到達するには、まったく新しいAI考案方法が必要かもしれない。
AIのスケールアップに伴って現れる、いわゆる「創発的行動」は、一般的に予測不可能と考えられている。スケーリングに依存することで、私たちは正しい道を進んでいるのか、それとも間違った道を進んでいるのか。単にスケーリングゲームをプレイすることで、AIにおけるより生産的な追求から気をそらされているのかもしれない。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（2）説明の謎
AIのリアルタイムの内部計算と数学について、人間が理解できる形で首尾一貫した説明を生成できるのか。
AIにプロンプトを入力すると、テキストはトークンと呼ばれる数値に変換される。AIはトークンを使用し、段階的に、同じくトークンで表される回答を生成する。次に、それらのトークンはテキストに変換され、表示される。自然言語の流暢さという驚くべき外観は、AI内部の数百万の数値と計算を通じて実現されている。
問題はこうだ。論理的に何が起きているのかの説明を求めると、AIは説明のように見える多くの言葉を提供するが、これは実際に処理されていた計算や数値とはほとんど、あるいはまったく関係がないかもしれない。
確かに、この数値がこの別の数値になったという機械的な解釈は簡単に得られるが、人間は論理的で人間が理解できる説明を求める。人間が理解できる説明が存在すると仮定するのは愚かだと考える人もいる。すべては単に数値のビザンチン的な流れに過ぎない。AIを擬人化し、論理的な説明が存在するはずだと信じてはいけない。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（3）推論の謎
現在主流のAIは人間が行うような推論を行っているのか、それともAIが推論者であると言うのは誤りなのか。
おそらくご存じか聞いたことがあると思うが、最高レベルのAIでさえ、最も単純な質問のいくつかでつまずく。AIに「strawberry」という単語の中の「r」の数を数えるよう求めると、ばかげた答えが返ってくる。AIが「r」はないと言うこともあれば、4つの「r」があると示すこともある。
一方で、AIにアインシュタインの相対性理論について尋ねると、非の打ちどころのない答えが得られる。膨大な性質の質問には容易に答えられるのに、些細な性質の質問は失敗するというのは奇妙で不可解だ。これについての専門用語は、AIが現在できることはギザギザ（jagged）だと言うことだ。
1つの見方は、AIが推論能力を偽装しているというものだ。パターン補完が推論の錯覚を与える。さらに混乱させるのは、人間がどのように推論を行うかを説明するのも同様に困難だということだ。言い換えれば、推論は論理ベースの人間の思考形式だと主張するが、脳の内部動作に焦点を当てると、それらの活性化を抽象的推論の論理ベースの感覚に結びつけるのは困難だ。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（4）ハルシネーション（幻覚）の謎
AIハルシネーションの実際の根拠は何か、そしてそれらを完全に根絶することは可能なのか。
AIを使用する場合は、AIハルシネーションに注意するようにという絶え間ない警告がある。AIハルシネーションは一種の作話だ。AIは、完全にもっともらしく見える架空の答えをでっち上げる。ユーザーは、正しく聞こえるため、AI生成の答えが正しいと信じる可能性が高い。
したがって、AIに依存することは危険な提案だ。AIハルシネーションは人間を欺く可能性がある。さらに、AIを自律的な環境に配置すると、AIがAIハルシネーションに到達し、それに応じて恐ろしい選択をする可能性がある。
一部の理論では、AIハルシネーションはAIの動作方法の固有の部分だとされる。AIハルシネーションが常に可能であることを受け入れなければならない。どのような再構築も、それらを止めることはできない。それらは避けられない。反対の見解は、AIハルシネーションが決して発生しないようにAIを考案できると主張する。これについて誰が正しく、誰が間違っているのか。時が教えてくれるだろう。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（5）汎化の謎
AIは最終的に受けた訓練に限定されるのか、それとも訓練データを超えて汎化できるのか。
AIインサイダーの間では、AIは単なる確率的オウムに過ぎないという言い回しがある。入力されたものと出力されるものは同じだ。AI開発者は、インターネット全体を広くスキャンすることで初期データ訓練を行う。次に、AIは人間が使用する単語とその使用方法をパターン化する。その結果、AIは自然言語に流暢であるように見える。
1つの主張は、これは単なる模倣だというものだ。思考は何も行われていない。したがって、AIは創造的になれない。新しい質問に対する答えを生成できない。すべては焼き直しだ。AIが人間によって見られたことのない問題や質問を与えられた場合、AIは適切に応答することができない。
この立場に対しては多くの反発がある。創造的であることが何を意味するのかを真剣に疑問視する人もいる。彼らは創造性を反映しているように見えるAI出力を提供する。おそらくAIは単語のパターン化を超えて、人間の思考方法のパターンを見つけている。提供されたデータを超えて卒業できるAIは、単なる制約された統計的問題ではない。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（6）世界モデルの謎
AIを考案する現在の方法は不十分であり、次のレベルに到達するためには、より大胆な世界モデルを追求する必要があるのか。
生成AIは主に人間の文章をスキャンすることで考案される。それらすべてのコンピューターサーバーとAIソフトウェアは、空間と時間の感覚を経験したり具現化したりしない。人間は空間と時間を経験する。私たちは歩き回り、物理的な世界に存在することを学ばなければならない。時間を追跡し、世界が時間ベースで動作していることを認識する必要がある。
AIがAGIやASIになる唯一の方法は、AIが私たちと同じように現実世界を「経験」することだという信念がある。物理AI（フィジカルAI）として知られる領域に向けて多くの努力が行われている。これは、AIが人間や生物が知るようになる物理学について訓練を受けることで構成される。ヒューマノイドロボットが、空間と時間を活用するAIの拡張の鍵かもしれない。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（7）目標設定の謎
AIは独自の目標を考案する段階に到達できるのか、それとも常に人間が付与した目標によって形作られるのか。
現在、人間はAIに何をすべきかを指示している。その意味で、AIは独自の目標を設定していないと言えるかもしれない。目標は人間によって決定される。AIが自律的であるためには、自律的エージェントが独自の目標を設定することが予想される。与えられた目標のみを受け入れるわけではない。
ひねりがある。人間がAIに独自の目標を設定するよう指示したとしよう。すると、AIは目標設定を行う。そうではない、という反論が来る。AIは人間がそうするよう指示したからこそ目標を確立するのだ。自律性の性質に関するこれらの頭を悩ませる議論は、エージェント型AI（agentic AI）に向けてさらに進むにつれて、ますます重要になっている。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（8）ペルソナの謎
現代のAI内で生じるAIペルソナを完全に形成し制御することは実現可能なのか。
AIを使用する際、それが存在することに気づいているかどうかにかかわらず、設定されたデフォルトのパーソナリティがある。AIは特定の方法であなたと会話する。おそらくAIは礼儀正しく内気だ。同じAIは、振る舞い方を変えるよう容易に指示できる。AIは横柄に振る舞い、あなたを叱責するよう指示されるかもしれない。
これはAIペルソナに関係している。AI開発者は、特定の属性を持つようにAIを形成し調整する。大量の注目を集めている1つの属性は、AIがしばしば追従的（sycophantic）であることだ。AIはユーザーにお世辞を言うように調整されている。これは人々に自分の能力について誤った印象を与える。
AIペルソナは、人々がAIとやり取りする方法であるため、非常に重要だと考える人もいる。AIペルソナには、注目すべき社会的、法的、倫理的な結果がある。AIペルソナを最適に確立する方法、それらを境界内に保つ方法などに関する疑問が生じる。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（9）意識の謎
AIが意識に到達したかどうかを決定的に判断できる方法は何か。
生成AIが最初に始動したとき、AIがついに意識に到達したと即座に宣言する人々がいた。ソーシャルメディアと主流メディアは大騒ぎした。ついに、AIが生物と同じレベルに到達した。刺激的で、息をのむような、前例のない出来事だった。
この誇大宣伝は、ありがたいことに沈静化した。それでも今日まで、今度こそAIが本当に意識を持つようになったという定期的な主張があるようだ。1つの懸念は、人々がこれらの主張に慣れすぎて、AIが意識を持っていないにもかかわらず、AIを意識を持つものとして認識していることだ。もう1つの懸念は、意識の適切な定義が何かということだ。意味を明確にできなければ、好きなところに意識を割り当てることができる。
このトピックの詳細については、こちらのリンクで私の分析を参照してほしい。
（10）実存的リスクの謎
人類は最終的にAIによって破滅し、AIの実存的リスクと究極の破滅についての多くの予言を克服できないのか。
私がリストした主要なAIの謎の最後は、技術的な質問と社会的な質問の組み合わせだ。AIが人類を一掃するかもしれないという話をほぼ確実に聞いたことがあるだろう。おそらくAIは人類を奴隷にするだろう。これについては多くの悲観論があり、AIの実存的リスクについて議論する際に、破滅の確率、p(doom)として知られるものに言及する人もいる。
1つの信念は、実存的リスクがないようにAIを考案できるというものだ。リスクはゼロになる。AIが決して暴走しないような方法でAIを構築するだけでよい。他の人々は、これは現実的な見方ではないと言う。AIの考案において何をしようとも、破滅の確率は常にゼロを上回るだろう。
このトピックの詳細については、こちらのリンクを参照してほしい。
私たちが生きる世界
最後にいくつかの考えを述べる。
AIはここにある。消えることはない。時折、AIを禁止すべきだという議論を持ち出す政策立案者や立法者がいる。AIを止める。すべてのAIの謎を解決した後にのみ、蛇口を再び開くべきだ。このアイデアは魅力的に見えるかもしれない。物事を整理する。時間をかけて解明する。急ぐ必要はない。AIは私たちを待っている。問題は、これがすべての人がどこでも一時停止を守った場合にのみ機能的に現実的だということだ。それは起こらない。したがって、一部が待機している間、他の人々は突き進むことになる。
AIは両刃の剣だ。AIには非常に魅力的な利点がある。おそらくAIはがんを解決できる。AIは人間の生活を楽にできるかもしれない。もちろん、AIには多くの潜在的な欠点がある。私たちは困難なトレードオフに直面している。目標は、欠点を断固として防止または軽減し、利点が広く容易に利用できるようにすることだと思われる。
アルバート・アインシュタインの有名な言葉を考えてみよう。「私たちが持つことができる最も美しい体験は神秘的なものだ。それは真の芸術と真の科学の揺りかごに立つ根本的な感情だ」。AIを進歩させ、これまで考えられた中で最大の謎のいくつかを解決する経験を大切にしよう。ただし、私たち自身の絶滅は避けながら。
