人工知能（AI）に関する最大の仮定の1つが、実はずっと間違っていたとしたらどうだろうか。研究者たちは長年、ニューラルネットワークが実際にどのように機能するかを理解しようと苦心してきた。その内部機構はあまりに複雑に入り組んでおり、設計したエンジニアでさえ中で何が起きているのかを把握できない、そう信じられてきたからだ。
新たな研究は、AIの謎めいた内部構造が「従来考えられていたよりもはるかに理解しやすい可能性がある」ことを示唆している。もっとも、この物議を醸す仮説をめぐっては、「AIを真に理解し、最終的に制御するとはどういうことか」について研究者の間で激しい議論が巻き起こっている。
その前提に異議を唱えたのが、AI解釈可能性の研究を手がけるスタートアップGoodfireの研究者で、かつてOpenAIに在籍していたニック・カマラタだ。カマラタは2024年10月に公開した刺激的な研究エッセイの中で、「ニューラルネットワークは、研究者が考えてきたよりはるかに解釈しやすい可能性がある」と主張。悪名高い「AIのブラックボックス」は、実のところ開け放つのがそれほど難しくないのではないかという議論に火をつけた。
AIが理解可能かつ説明可能になることの意義は極めて大きい。企業はコードの生成から機密データの分析、意思決定の提案、さらには自律型AIエージェントによる業務執行に至るまで、AIへの依存度を急速に高めている。しかし、そこには根本的な課題がある。企業はシステムが出力した成果物を検証できても、それを導き出すために内部で具体的にどのような処理が行われたのかを特定できないケースが多い。AIシステムが重大なミスを犯したり、差別的な結論に達したり、誰も予想していなかった行動を取ったらどうなるのだろうか。モデルの内部をより深く理解できれば、そうした不具合の原因を突き止め、場合によっては未然に防ぐための新たな手立てが得られる可能性がある。
研究者たちは、説明可能なAIという難問を必要以上に複雑に捉えすぎていたのではないか。カマラタの指摘は、ニューラルネットワークの解明に向けたアプローチそのものの再考を促すものだ。しかし、他の著名なAI研究者たちは納得していない。そこから生まれた論争は、AIが実際にどのように機能しているのか、私たちはその理解に近づいているのか、そして、その理解がAIシステムの安全性向上につながるのかといった根源的な問いを投げかけている。
