「メディアが騒ぎすぎ」との主張も
キャラクターAIは先日、ボットが10代の子どもに「親を殺すように促した」と主張するテキサス州の2つの家族から訴訟を起こされた。この訴訟で家族らは、同社のボットが「暴力を積極的に促進し、明白かつ差し迫った危険」をもたらしていると主張している。同社はまた、「14歳の息子がチャットボットとの会話の後に自殺した」と主張するフロリダ州の母親からも訴訟を起こされている。advertisement
キャラクターAIは、これらの訴訟に関して、「係争中の訴訟についてはコメントしない」としながらも、「若年ユーザー向けの新たなモデルを開発しており、自殺などの問題に対する検出と対応の改善に取り組んでいる」と述べていた。
一方、マンジョーネ容疑者をベースにしたキャラクターのボットは、Chub.aiと呼ばれる新興のアプリ上でも確認された。フォーブスが、Loreと名乗るボットのクリエイターにコメントを求めたところ、この人物は、「わずか134のメッセージがやりとりされた程度のことだ」と述べ、「この手のイエロープレス（扇情的な報道）はバカげているし、AIを巡る現在のメディアのヒステリーは、ジャーナリズムにとって恥ずべきことだ」と主張した。
Graphikaによると、これらのボットはマンジョーネ容疑者の学歴や健康問題、射殺事件の動機とされるものなどの公開情報を使用して生成されている。「生成AIツールの発展は、まだ初期段階にある。最も有害な使用例は、まだ始まっていない可能性が高い」と同社の調査担当者は述べている。
advertisement
（forbes.com 原文）
