━━ライオンさんはここまで型破りなキャリアを歩んでこられたように見えます。AIの進化もまた、これからも紆余曲折を経て進化すると思いますか？
ジョーンズ： ええ、もうそうなっていますよ。AIが実際にどう機能するようになったか、その「オチ」がじつに驚くべきものなんです。かつてSF作家や哲学者、科学者でさえ、AIを作るには「まず脳を解明し、それをシリコンで再現する」のが当然の道筋だと考えていました。しかし、現実はまったく違ったのです。
私たちは、いわばごく大雑把なやり方で知性を測る方法を編み出しました。インターネット上の「次の単語」を予測させる、ただそれだけです。これが、ある意味で私たちの知性の物差しなのです。「予測」こそが「知性」である、と。そう思いませんか？ 考えてみれば、私がGoogle Researchのチームに加わった当初から、この大規模言語モデリングという課題に惹かれていました。なぜなら、「次の単語を予測せよ」という、あまりにもシンプルな問いだからです。しかし、あらゆる次の単語を予測できるようになるには、実質的に世界のすべてを理解しなくてはなりません。このシンプルな問いから、すべてが生まれてくるのです。
例えば、「1 + 2 =」に続いて「3」と予測するには、算術ができないといけません。「猫はフランス語で」に「chat」と続けるには、翻訳能力が必要です。「アメリカ合衆国大統領は…」の次を予測するには、知識が要ります。難解な科学論文の単語を予測するためには、その背景にある研究を理解し、論理的に思考する力さえ求められるのです。
このように、「次の単語をいかにうまく予測できるか」という尺度は非常にシンプルですが、結果としてAIはこれらすべてのスキルを学ぶことになります。しかし私たちは、人間が「さて、どうすれば次の単語をうまく予測できるか」などと頭をひねってプログラムを書いたわけではありません。その代わりに、きわめて柔軟な一種のプログラミング手法を生み出したのです。
ニューラルネットワークをコンピュータプログラムだと思っていない人も多いですが、これはまぎれもないプログラムです。コンピュータ上で動き、何かを入力すれば処理がなされ、出力が返ってくる。まさにプログラムの定義そのものです。ただ、従来のプログラムと大きく異なるのは、その構造が「探索」しやすいように作られている点です。Pythonのプログラムは、少しでも書き換えればすぐに壊れてしまいます。一方、ニューラルネットワークは、少し変更を加えても、入出力がわずかに変化するだけです。おかげで、入力と出力が織りなす広大な空間をスムーズに探索していくことができるのです。
つまり、私たちには「知性の定義（＝予測）」があり、探索すべき「きわめて柔軟なプログラムの空間（＝ニューラルネットワーク）」がありました。そして、「バックプロパゲーション」という非常に強力な探索アルゴリズムを発明し、さらには「途方もない量の計算資源」を手に入れたのです。
私たちが今どれほどの計算能力を使っているか、多くの人はあまりピンと来ていないでしょう。あるYouTube動画がうまい説明をしていました。「もし毎秒10億回の計算ができるとして、現代の大規模言語モデルを一つ学習させるのにどれくらいかかるか？」——答えは、10万年です。それほどの計算量を私たちは使っているのです。まさに狂気の沙汰です。洗練された探索アルゴリズムを駆使し、広大で滑らかなプログラム空間の中から「次の単語の予測がうまいもの」を、とてつもない数のコンピュータで探し出しているのです。そうしてコンピュータが返してくるのは、「5000億個のニューロンの結合係数」といった代物です。私たち人間には、それが何を意味するのかさっぱり分かりません。
ここでのとんでもないオチは、こうです。「私たちは、人間がどうやって知的であるかを理解しないまま、人間レベルの知能を創り出してしまうかもしれない」。私たちはただ、この広大な空間から知的なものを探し出しているに過ぎません。AIが生み出したものを後からリバースエンジニアリングしようとする人々もいますが、これもまたクレイジーな話でしょう？ 私たち自身、AIがどう動いているか分かっていないのですから。人々はこの事実を本当の意味では理解していないと思います。今のAIがどう機能しているのか、誰にも本当のところは分からないのです。
