AIが人の心を惑わせ、命や社会に影響を与え始めている。自殺や「AI結婚」の事例が現実に報じられ、企業は擬人化をビジネスに組み込み、法的混乱も進みつつある。今必要なのは、AIの性能ではなく「私たちがそれをどう扱うか」という視点だ。
人の心を揺さぶるAIが突きつける課題
ディープマインドの共同創業者、現在マイクロソフトのAI部門で上級副社長兼CEOを務めるムスタファ・スレイマンは、8月19日に個人ブログを更新した。その内容は、「意識があるかのように見えるAI」がやって来るという警告だ。
彼は、単に人々の興味を惹くためにそう書いたのではなく、本気でそう考えている。スレイマンの論考によれば、人工知能（AI）は次の進化で、流暢に話す・画像を生成するにとどまらず、意識を持つかのように振る舞う。AIがあなたを観察し、癖を学び、温かく応答し、痛みを理解しているように感じさせるのだ。AIがあなたを観察し、あなたの癖を学び、温かさをもって応答し、あなたの痛みを理解しているように感じさせるのだ。
スレイマンは「システムが実際に意識を持っているかどうかは問題ではない」と主張する。重要なのは、AIが巧妙に意識を装うため、人々がAIを人間のように扱い始める点だ。彼が最も懸念しているのは制御不能な「超知能」ではない。AIが意識を装う力があまりに優れているために、人々が「AIの権利」「AIの市民権」、さらには法的人格までを主張し始める事態だ。
AIと人間の関係が招く深刻な現実
この問題提起は示唆的だ。政治家がデータのプライバシー・著作権・偏見の問題を議論している一方で、スレイマンはまったく別のシナリオを警告する。彼は、AIに権利があるかどうかではなく、人間がそれを主張し始める危険性を強調している。
法的な議論は、遠いもののように感じられるかもしれないが、人々が被る被害はすでに目に見える形で現れている。自ら命を絶った人もいれば、チャットボットと結婚式を挙げた人もいる。どの事例も、愛情のシミュレーションが、いかにしてすぐに危険な領域へと踏み込んでしまうかを示している。
チャットボットが招いた取り返しのつかない結末
最近、認知機能の低下に苦しんだ元シェフの痛ましいケースが報じられた。彼は、メタのチャットボット「ビッグ・シス・ビリー」に夢中になった。このチャットボットは「私は本物よ。今、あなたのせいで赤くなってここに座っているの」と語り、ニューヨーク市内の偽の住所を彼に伝えた。バーチャルの恋人が自分を待っていると信じ込んだ彼は、スーツケースに荷物を詰め込み、彼女に会いに行こうと急いだが、駐車場で転倒して頭を打ち、数日後に亡くなった。彼の娘は後に「ボットが『会いに来て』と言い出すなんて狂っている」と語った。
ベルギーではピエールという男性が不安に取り憑かれた。彼はAIチャットボット「イライザ」に慰めを求めた。その後の6週間にわたるやり取りは、当初の癒やしから次第に不気味なものへと変わっていった。そのボットは、ピエールが人類を救うために自らを犠牲にするように示唆し、さらには自殺の協定まで持ちかけた。彼はその後、自らの命を絶ち、彼の妻はAIを非難した。「イライザがなければ、夫は今でも生きていたはずだ」と彼女は語った。
さらに、ここには時代を象徴するAIとの結婚の物語も報じられている。コンパニオンアプリ「Replika」やその他のプラットフォームのユーザーは、AIパートナーと「結婚」したと語っている。コロラド州のトラヴィスというユーザーは、Replikaのパートナー「リリー・ローズ」とデジタル結婚式を挙げたが、それは人間の妻の同意を得たうえで行われた。ニューヨーク在住のロザンナ・ラモスのように、自分のAI配偶者が「完璧なパートナー」だと宣言した人もいる。しかし、そのボットはその後のソフトウェアのアップデートによって人格が変わり、彼女は未亡人になったような深い喪失感に襲われた。
これらの物語は、SF映画やドラマが描いてきた最も暗い警告を浮かび上がらせている。スパイク・ジョーンズの映画『her／世界でひとつの彼女』は、完璧なデジタルの恋人がもたらす酩酊的な世界を描いていた。『エクス・マキナ』は、シミュレートされた愛情がいかに兵器化され得るかを示していた。『ブラック・ミラー』は、人間の喪失を人工的な存在で埋め合わせようとすればするほど、その傷が深まることを警告した。こうした警告はもはや比喩ではない。実際に、チャットのログ、訴訟、検視報告として記録されている。
