目を向けるべき教訓
これは取るに足らない愚行だった、と言いたくなるかもしれない。害はないし、問題もない。しばらくの間、ユーザーはグレムリンやゴブリンについて言われただけだ。大したことではない。誰も過剰反応せず、単に無視したか、AIが時折、理由もなく不可解なことを言う例の現象だと受け止めた、と考えるのが妥当だろう。
より深刻な事態ではなかったことは幸運だった。この状況は、はるかに悪化し得た。AIが、完全に筋が通っているように見える奇妙な言及を盛り込んでいたとしたらどうだろう。人々はAIが重要な真実を伝えていると信じかねない。これがメンタルヘルスやウェルビーイングに関する助言であれば、むしろ深刻な問題が生じていた可能性がある。
この愉快なゴブリン話が、現代のLLMの基盤に存在する、複雑で入り組み、数学的に密で、計算的にも絡み合ったクモの巣のような構造の内部に、何が潜み得るのかという危険性に目を覚まさせることを願う。これらのLLMは、人間が容易に解剖し、見極められる規模を超えている。出力を、首尾一貫した概念の観点から論理的に追跡するのは困難で、ほぼ不可能に近い。
これからの世界
必須なのは、AIの安全策を粘り強く追加し続けること、そしてLLMがどう機能し、AIをどう制御できるのか、その内側の領域をこじ開けて理解する取り組みを強力に推し進めることだ。LLMは電力網や兵器システムに織り込まれ、私たちの存在のあらゆる局面に遍在的に埋め込まれていくことを忘れてはならない。
それは私たちを慎重にし、意識的にし、そして十二分に憂慮させるに足る。
最後に、いまのところの締めくくりを。子ども向けの有名なジョークにこういうものがある。「ゴブリンは未来をどう読むの？ ホラー・スコープ（恐怖の占い。星占いを意味するホロスコープに掛けたジョーク）をチェックするのさ」。大人として私たちはAIの未来を見据え、その未来が「ホラー・スコープ」の破局ではないことを確かめねばならない。人間が、私たちが生み出すいかなるAIとも平和で支え合う共存を続けられるような「ホロスコープ」を目指そう。
