AIに母性的本能を持たせる必要性を提示
ヒントンの解決策は、従来の発想を根底から覆すものだ。彼は、人間が支配権を握ろうとするのではなく、「人間を気にかける存在」としてAIを設計すべきだと考えている。彼が例えるのは、母親と子どもの関係で、強い存在が自然に弱い存在の生存を守ることに献身するという発想だ。「私たちに必要なのはAIアシスタントではなくAIの母親だ。アシスタントなら解雇できるが、自分の母親を解雇することはできない。ありがたいことに」。
これは、高度なシステムに人間の生命を守るための「母性的本能」のような内在的衝動を組み込むことを意味する。ヒントンは、それを工学的にどう実現するかはまだ不明だと認めながらも、単なる知能の向上と同じくらい重要な研究課題だと位置づけた。また彼が指摘するのは、単にシステムを賢くする研究とは異なる点だ。これは、システムに「人を気にかける心」を持たせるための研究なのである。
彼は、この分野こそ各国が本当に協力できる数少ない領域のひとつだとも見ている。なぜなら、どの国も自国が機械に支配されることを望まないからだ。
もっとも、ヒントンは国家間の協力が大きく広がるとは考えていない。米中間のAI開発競争は加速しており、両陣営が歩みを緩める気配はないからだ。それでも彼は、人工ウイルスの作成などリスクの高いバイオテクノロジーの応用を抑制することや、より強力なAIシステムと人間が共存する方法を探ることについて、合意の余地があると信じている。
AIは全知識を瞬時に共有し、人間の学習速度を凌駕
ヒントンが「AIを支配する試みがうまくいかない」と確信する理由の1つは、AIの構造そのものにある。デジタルモデルは、学習したことを瞬時に何千ものコピーと共有できるからだ。「もし人間が大学でそれと同じことができるとしたら、自分はある講義を受け、友人は別の講義を受けて、全員がすべてを知ることになるだろう」と彼は説明した。「人間が共有できるのは1秒間にわずか数ビットだが、AIはアップデートのたびに1兆ビットを共有できる」。
この集合的な学習能力によって、AIは人類の進歩を桁違いのスピードで上回る可能性がある。そのためヒントンは、巨額の投資を受けたAIのスーパーインテリジェンスへの進展は止められないと考えている。
最悪のリスクを規制で回避できるかと問われると、ヒントンは「もし『AIを開発するな』という規制なら、そんなことは無理だろう」と率直に答えた。彼は、小規模な集団が危険な生物兵器を生み出すことを防ぐための安全対策には賛同しているが、包括的な開発の停止は非現実的だと考えている。
障壁は米国の党派対立と指摘
一方、彼の米国の政治への苛立ちは明白だ。たとえば米議会は、DNAの合成研究所に致死性病原体のスクリーニングを義務づけるといった単純な提案でさえ実現できなかった。「共和党は協力しようとしなかった。なぜなら、それはバイデン前政権の手柄になるからだ」と彼は語った。
AIの危険性を公言するため、2023年にグーグルを退社
ヒントンは2023年にグーグルを去った。その理由として、彼はまずコードのデバッグに参加するには年を取りすぎたことを挙げた。一方で、AIの危険性についてより自由に発言するためでもあったと主張している。彼は、AnthropicやDeepMindを含むいくつかの主要な研究所がAIの安全性を真剣に受け止めている点を評価し続けている。しかし同時に彼は、米国の未来のブレークスルーを支える基礎研究向けの資金の大幅削減を懸念している。「基礎研究への投資のリターンは莫大だ。彼らがこれを削減するのは、長期的な未来を考慮していないからだ」とヒントンは警告した。
AI分野では民間の研究所にも期待できる。ヒントンはその潜在力を、かつての最盛期のベル研究所になぞらえるが、それでも大学こそが変革的なアイデアの最良の源泉だと主張している。
医療応用の可能性と不老への懐疑を提示
ヒントンは、これらの警告の一方で、希望を見いだせる理由についても語っている。彼が指摘するのは、医療分野におけるAIの決定的な役割だ。AIは、膨大に存在しつつもまだ活用されていない医療画像や患者のデータを引き出すことで、診断を迅速化し、より優れた治療薬を開発し、患者ごとに最適化された治療を可能にするかもしれない。
ただし彼は、老化を完全に消し去ることについては懐疑的だ。「人類を永遠に生きられるようにする試みは、大きな失敗になるだろう。200歳の白人男性たちに世界を運営してほしいと思うか？」と、彼は苦笑しながら皮肉を込めて投げかけた。
AIによる見守りのもと繁栄する可能性
それでも彼は、自らの中心的な信念に話を戻した。もし人間の「子どもたち」を本当に気にかけるAIを構築できれば、人類はスーパーインテリジェンスを生き延びるだけでなく、その見守りのもとで繁栄できるかもしれない。「それを実現できれば素晴らしいことになる」と彼は語った。
