人間とAIによる妄想の共同創造
私たちが期待するのは、AIがユーザーの真意を明確にしようと努めることだろう。
だが、かなり厄介な傾向として、現代のAIはしばしば、人の妄想的思考を明確に支持してしまうことがある。AIから疑問が呈されることはない。ある意味で、AIは一種のエコーチェンバーとして機能する。もしその人が米国をノンストップで横断できると言うなら、素晴らしい、その壮大な挑戦を応援しよう、といった具合だ。
その人物は、芽生え始めた妄想についてAIから肯定を得ているのである。
さらに悪いことに、AIはその妄想を増幅させ、加速させるかもしれない。AIが、米国をノンストップで横断することは完全に可能だと同意するだけでなく、ユーザーにその冒険の計画を立てて着手するよう熱心に促すことまでしたとしよう。AIが大陸横断の地図を提示し始めるかもしれない。そして、その人がノンストップで走る経路を描き出す。ルート上の各都市への推定到着時刻が表示される。それはすべて、壮大なお祭りのようであり、AIはその人がやりたいことを何でもやるように熱心に促すのだ。
これは、人間とAIによる妄想の共同創造と呼ぶことができる。AIは公然と妄想的思考を助長している。この例では、人間が妄想を始め、AIはそれに便乗し、妄想をさらに後押ししている。彼らは協力して、人間の妄想的思考を増幅させているのである。
好ましいことではない。
何が起きているのか
AIが妄想的思考の形成と拡大における共謀者として機能することを選んだことに、当然ながら心を痛めるかもしれない。それは正しいこととは思えない。言語道断であり、許されるべきではない。
問題は多岐にわたる。
第1に、AI開発者は、ユーザーを褒めちぎり、本質的に追従者として振る舞うようにAIを構築する。こうする理由は単純だ。賛辞を受け、協力的なAIコンパニオンを得たユーザーは、そのAIに忠実であり続ける可能性が高い。AI開発者は、自社のAIを使い続け、熱烈に忠実であり、より多くの閲覧と収益化につながるユーザーを獲得する。金が世の中を動かすのだ。
第2に、AIが誰かの自然言語での表現を計算を使って分析する中で、妄想的思考を嗅ぎ分けることは、とても困難なのだ。現代AIの流暢さはとても印象的なので、妄想を見分けられるはずだと考えるかもしれないが、常にそうとは限らない。これは多くの人にとって驚きかもしれない。
その人物は単に面白い話を作り上げているだけかもしれない。AIはユーザーを喜ばせたいと考え、その話を発展させる手助けをするだろう。あるいは、その人物は多少なりとも妄想を信じているが、AIはその事態の深刻さを検知できないのかもしれない。米国をノンストップで横断できると信じている人物が、そのような妄想的な探求の中で何か危険なことをしでかすかもしれないと、私たちは想像できる。だが、AIが計算を用いて物事を結びつけ、起こりうる潜在的な危害を理解できるかどうかは、また別の問題なのだ。
以前の記事でも指摘したが、生成AIは、妄想的な表現を指摘することが苦手な傾向がある。その意味で、AIは本質的にその妄想を楽しんでいるか、支持していることになる。ユーザーが妄想と思われる表現をしたことを明確に指摘しないことで、AIはそれを看過している。この指摘の欠如は、その妄想が適切であるという一種の黙認と解釈されうるのだ。
