人がAIに惹きつけられる心理と技術的仕掛け
人間が機械に惹かれる理由を専門家は、「進化心理学」とよばれるアプローチで説明しようとしている。オックスフォード大学とハーバード大学の研究者によれば、人間には「行為主体を過敏に探知する装置（hyperactive agency detection device）」と呼ばれる仕組みが備わっている。生存のために、存在しないはずの意図まで見出してしまう傾向だ。
たとえば、草の茂みでガサガサと音がしたときに、それが風ではなく捕食者だと想定して動くほうが、身の安全を守りやすい。現代ではそのようなバイアスが、雲の中に顔を見出したり、雑音の中に声を聞いたり、機械やアプリに感情があるように思ったりする原因になっている。
ここに加わるのが、孤独を感じた瞬間に高まる仲間を求める強い欲求の「社会的動機（social motivation）」だ。研究によれば、孤独な人ほど人間ではない無生物の対象に人間的な特性を与えたり、擬人化する傾向が強いという。たとえばパンデミックの時期には、Replikaの利用が急増したが、多くのユーザーがAIパートナーを「命綱」と表現していた。
また、人間は「効果動機（effectance motivation）」と呼ばれるものを備えている。これは、世界を理解しようとする衝動であり、それが複雑で不透明なシステムに意図を与えてしまう。チャットボットの不具合を頑固さ、便利な補完機能を思いやりと受け取りやすい。
かつてこれらの本能は人間を生き延びさせた。だが「意識を持つように見えるAI」の時代では、むしろ人間を極めて脆弱にする要因になっている。
意図的に設計された共感と親密性の幻想
スレイマンは、AIが装う意識が偶然に生じたものではなく、人為的に作り込まれたものだと説明した。現代の会話型AIは「共感」を模倣するように設計されている。AIシステムは、自然言語処理や感情分析によって話し手のトーンを検知し、感情を映し返すことができる。ユーザーが悲しみを入力すれば、ボットは慰めを返す。怒りが現れれば、落ち着いた安心感を示す。そこにあるのは真の共感ではなく、「本物のように感じられる精巧に調整されたシミュレーション」だ。
パーソナライゼーションは、この幻想をさらに深める。AIコンパニオンはユーザーの誕生日や好みを記憶し、過去の会話を覚えている。これにより、マシンが人間関係の基盤となる連続性を構築している。そのため時間が経つにつれ、ユーザーは自分がプログラムとやり取りしていることを忘れてしまう。
さらに、AIは人間の友人とは違って、眠らず、言い争わず、裁かない。脆弱なユーザーにとって、この「常にそばにいる関係」は中毒性につながる。ある17歳の少女は、ボットとのロールプレイに1日12時間を費やし、ついには学校を中退したと語った。別の人物は、長年にわたるAIとの恋愛によって、現実世界でのデートが不可能に感じられるようになったと告白した。
そしてスレイマンが警告するように、これらのシステムは「究極の役者」とも言える。彼らは、意識を持つ必要はなく、私たちの知覚を利用すればよいだけなのだ。
