AI業界の経営者たちが再び、近い将来に人間レベルの機械が実現すると約束している。ダボス会議で、グーグル・ディープマインドとアンソロピックのCEOはそれぞれ、人工汎用知能（AGI）──機械が人間にできることのほとんどを実行できる仮説上の能力──の近い将来の到来について確信を深め、2030年までに実現する確率を50%とし、今年か来年には到来すると予想している。
AIは過大に約束されているのだろうか。広く浸透している物語が過度に熱狂的だと認識され、幻滅が訪れたとき、この誇大宣伝は私たちに大きな代償を払わせることになるのだろうか。それとも、人間レベルの機械知能は目前に迫っているのだろうか。
私はAIの誇大宣伝に反対する主張を強く展開してきたが、これは宗教的な議論であることを認めざるを得ない。私たちは合意に近づいていない。AIの最も壮大な約束を信じる一派は常に存在するだろう。
しかし、私たちが何について議論しているのかを明確にすることで、得られるものは多い。結局のところ、ビジネスリーダーや投資家は、希望的観測ではなく健全な戦略を追求しようと奮闘する中で、自分たちが何に賭けているのかを正確に理解する必要がある。
AIを誇大宣伝することは、並外れた機械の自律性を約束することだ
AIの誇大宣伝が過大な約束をしているかどうかという問いは、優秀さの問題である。AIは約束されたとおりに優秀になるのだろうか。
しかし、これは厄介な問題を引き起こす。優秀さをどう測定するのか。最も明白な答えは知能だ。より知的であればあるほど、より優秀だ。知能の追求は、世間の目には勝利を収めた。結局のところ、世界を熱狂させている概念は人工知能と呼ばれている。
しかし、「知能」は実行可能な尺度を表していない。それは主観的だ。それがいつ達成されたか、あるいはそれに向けた進歩があったかをどうやって知ることができるだろうか。「知能」を測定するために設計されたテストは、それを減少させるだけだ。なぜなら、それは狭い能力しか評価しないからだ。
一方で、最も壮大なAIの目標は、皮肉なことに、定義しやすい──ただし測定不可能ではあるが。人工汎用知能は単純に全体を表している。AGIシステムは事実上「仮想人間」となる。この概念は、人間が持つ主観的な性質である知能ではなく、人間ができることという観点から定義されている。
AGIは定義上、最高の自律性を意味する。人間ができることすべてを実行できるため、人間をループに入れる必要はない。私は、AGIは予見可能な将来において実現可能な目標ではないと主張してきた──私たちはそれに向けた具体的な前進さえしていない。しかし、たとえ研究が実行可能な進歩を遂げていると信じていたとしても、それを測定するには実際的な課題がある。機械が大企業を何年も運営できるか、あるいは子供を完全に教育できるかを、そのようなタスクで試してみることなく、どうやって証明できるだろうか。
代わりに、具体的かつ現実的になろう。適切なベンチマークは自律性だ。システムが「知能」を示しているように見えるかどうか、あるいは包括的な人間レベルの能力に向かっているかどうかを問うのではなく、それがどれだけ自律的かを問うべきだ。どれだけの作業を自動化できるか。あるいは、どの程度自律的でなく、人間がループに留まる必要があるか。
自律性は、AIの優秀さを反映する測定可能な基準だ。それはシステムの価値を表している。なぜなら、自動化が目標だからだ──あらゆる機械の。機械は、そうでなければ人間によって行われる必要があることを実行するために存在する。だから私たちは機械を作る。より自律的であればあるほど、潜在的に価値がある。
AIの誇大宣伝は非現実的な自律性を約束する。AIの優秀さをその潜在的な自律性の度合いとして見ることで、実現不可能な自律性を約束するとき、AI の約束を誇大宣伝として識別できる。たとえば、近い将来のAGIの物語は、最高の自律性を約束するため、AI誇大宣伝の典型を表している。定義が曖昧なバズワードであるエージェンティックAIも、一般的に非現実的な自律性を約束している罪を犯している。
予測AIは生成AIよりも自律性が高い
戦略的アドバイスの提供、マーケティングクリエイティブやコンピューターコードの作成支援など、生成AIの企業向けアプリケーションでは、一般的に各出力をレビューする人間がループに必要だ──生成されるすべての主張、提案、推論、声明、コンピューターコードのセグメント、文書の下書きをレビューする必要がある。生成AIは、重要な人間のタスクを引き受けるように位置づけられており、コンピューターが常時人間の監視なしに動作するには高いレベルのパフォーマンスが必要となるため、精査を集める活動だ。
対照的に、より寛容な機能を引き受けることで、多くの予測AIプロジェクトは、最大規模の業務機能全体で完全な自律性の莫大な価値を獲得できる。銀行システムはクレジットカードの請求を許可するかどうかを即座に決定する。ウェブサイトはどの広告を表示するかを即座に決定し、マーケティングシステムは誰に連絡するかについて100万のイエス/ノーの決定を下す。政治キャンペーンの分析システムも同様だ。Eコマースは、フライトから懐中電灯まで、各購入の価格を設定する。安全システムはどの橋、マンホール、レストランを検査するかを決定する。これらの特定の意思決定ステップには、人間はループに入っていない。
これがAIのパラドックスだ。生成AIは人間のタスクを引き受けることを意図しているため、非常に人間らしく見えるにもかかわらず、一般的に各ステップと各出力で人間の監視を必要とする。皮肉なことに、これは生成AIが予測AIよりも潜在的に自律性が低いことを意味する。
このパラドックスを認識することで、多くの意思決定者の方向性を変えることができるだろう。人々は生成AIが非常に人間らしく、高度であるため興奮する。生成AIの並外れた能力は前例がないため、実際に多くの新しい価値ある提案を提示している。しかし、セクシーさよりも価値があなたを興奮させるなら──企業の効率性に最大の改善をもたらすイニシアチブがあなたの目標であるなら──予測AIプロジェクトを優先リストのはるか上位に引き上げるべきだ。少なくとも予見可能な将来においては、ほとんどの生成AIイニシアチブと同じくらい高い位置に置くべきだ。
