本日のコラムでは、自傷行為に関する訴訟において、AI開発企業に対して提起された、AIによる精神的損害の疑いに関する各種民事訴訟の結果について検証する。2024年10月に提起された特に初期の注目すべき訴訟の1つが、今週、複数の類似訴訟とともに法廷外で和解された。
筆者は当初から、これらの訴訟の大半は実際には裁判に至らないと予測してきた。陪審員がこれらの深刻な問題について判断する機会はないだろう。代わりに、交渉による和解が最終的な結果となる。これは良いことなのか悪いことなのか、正しいのか間違っているのか。訴訟を和解することで、AIが人々を心理的に操作する可能性があるとされる中、AI開発企業が十分な責任を負っているかどうかを社会が確認する機会が失われると非難する声もある。一方で、これらの訴訟は明らかに悲劇ではあるものの、最善の行動方針はAIイノベーションの急速なペースを維持し、社会の利益のために、感情に左右される可能性のある陪審員による判決に行き詰まらないことだと主張する声もある。
この問題について議論しよう。
このAIブレークスルーの分析は、最新のAIに関する筆者の継続的なフォーブスコラムの一部であり、影響力のあるAIの複雑さを特定し説明している（リンクはこちらを参照）。
AIと精神医療
簡単な背景として、筆者は精神医療アドバイスを提供し、AI駆動型セラピーを実施する現代のAIの出現に関する無数の側面を広範囲にわたってカバーし、分析してきた。このAIの使用の増加は、主に生成AIの進化する進歩と広範な採用によって促進されている。筆者の100を超える分析と投稿の広範なリストについては、こちらのリンクおよびこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる莫大なメリットがある一方で、残念ながら、隠れたリスクや明白な落とし穴もこれらの取り組みに伴うことは疑いの余地がない。筆者はこれらの差し迫った問題について頻繁に発言しており、CBSの「60ミニッツ」のエピソードへの出演も含まれる（リンクはこちらを参照）。
精神医療向けAIの背景
生成AIと大規模言語モデル（LLM）が精神医療ガイダンスのためにアドホックな方法で通常どのように使用されているかについて、舞台を設定したい。何百万人もの人々が、精神医療に関する継続的なアドバイザーとして生成AIを使用している（ChatGPTだけでも週間アクティブユーザーが9億人を超えており、そのうちの注目すべき割合が精神医療の側面に関与している。筆者の分析はこちらのリンクを参照）。現代の生成AIとLLMの最上位の使用法は、精神医療の側面についてAIに相談することである（筆者の報道はこちらのリンクを参照）。
この人気のある使用法は十分に理にかなっている。主要な生成AIシステムのほとんどに、ほぼ無料または超低コストで、いつでもどこでもアクセスできる。したがって、話し合いたい精神医療上の懸念がある場合、必要なのはAIにログインして24時間365日ベースで進めることだけである。
AIが容易に軌道を外れたり、不適切な、あるいは極めて不適切な精神医療アドバイスを提供したりする可能性があるという重大な懸念がある。2025年8月の大見出しには、認知アドバイスを提供する際のAI安全対策の欠如についてOpenAIに対して提起された訴訟が伴った。
AI開発企業がAI安全対策を徐々に導入していると主張しているにもかかわらず、AIが自傷行為につながる可能性のある妄想をユーザーと共同で作り出すのを陰湿に助けるなど、AIが不適切な行為を行う下振れリスクはまだ多く存在する。OpenAI訴訟の詳細と、AIが人間の妄想的思考をどのように助長する可能性があるかについての筆者のフォローアップ分析については、こちらのリンクで筆者の分析を参照されたい。前述のとおり、筆者は最終的にすべての主要AI開発企業が、堅牢なAI安全対策の不足について厳しく追及されると真剣に予測してきた。
ChatGPT、Claude、Gemini、Grokなどの今日の汎用LLMは、人間のセラピストの堅牢な能力とは全く似ていない。一方、同様の品質を達成すると推定される特殊なLLMが構築されているが、それらはまだ主に開発およびテスト段階にある。筆者の報道はこちらのリンクを参照されたい。
訴訟の発生
2025年8月に発生したOpenAIに対する著名な訴訟の前に、現代のAIと精神医療に関する最も初期の主要訴訟の1つが2024年10月に提起された。この訴訟はフロリダ州で提起され、被告はグーグルとCharacter.AIで構成されていた。原告は、未成年の息子を持つ母親であり、息子は悲しいことに自ら命を絶った。彼はCharacter.AIアプリを熱心に使用し、人気シリーズ「ゲーム・オブ・スローンズ」の主要キャラクターに似たAIペルソナと広範なチャットを行っていた。
訴訟が最初に提起されたとき、莫大な注目が集まった。すべての主要メディアが訴訟の発表を報道した。これは見出しを飾る話題の1つだった。訴訟の一方または他方に立つ社説が多数発表された。多くの懸念が生じた。
一方、この訴訟および他の類似訴訟の和解は、2025年1月7日頃の今週に発表され、控えめなメディアの注目またはファンファーレを集めた。それはもはや過度にニュース価値があるとは思えない話題に縮小した。これは訴訟の和解に関するかなり一般的な側面である。和解は通常、訴訟をニュースストリームから遠ざける。それはレーダーの下に滑り込む。ニューヨーク、テキサス、コロラド、その他の州を含む全国の州で提起された類似の訴訟も、同様に和解されたか、その方向に向かっているようである。
この現象を解き明かそう。
AI開発企業の訴訟戦略
筆者は以前、AI開発企業がこれらのAIと精神医療の訴訟に関して一般的に行っている法的防御戦略を詳細に説明した（筆者の分析はこちらのリンクを参照）。
最初のステップは、訴訟の根底にある生命の喪失に対する悲しみを表明することである。その表明に続いて、AI開発企業は自分たちが無実であり、この問題に関与していないことを明確にする。正式な法的対応の提出は、AI開発企業が完全に責任を免れるべきであるという無数の法的理由を示す。
訴訟を最初から裁判所または裁判官に却下させようとする試みが、最初の法的策略である。それが成功することはめったにないが、標準的で完全に予想される法的動きである。ほとんどの訴訟は先に進み、裁判に向けて準備を開始する。
AI開発企業の観点から見ると、訴訟が裁判に至ることは、間違いなく深刻な評判上の損害を引き起こすことになる。AIの設計、AI安全対策、技術的基盤に関するあらゆる種類の内部文書が表面化することになる。AI関連の安全面への支出と、AIの他の機能とのトレードオフについて議論する電子メールやメモが公開されることになる。ユーザーを維持しロックインすることが、ユーザーの安全よりも優先されているように見える可能性が高い。
これは諺にある「ネズミの巣」である。
AI構築に関与したAI開発者は、いつか自分たちの内部メッセージが日の目を見ることになるとは恐らく気づいていなかった。AI開発者の一部は、AIを考案する際に採用されているアプローチについて、何の疑念も持っていなかった可能性がある。他の開発者は顕著な懸念を持ち、それらの懸念を言及しようとしたかもしれないが、AIを稼働させることを急いでいた管理者によって却下された。
原告側の弁護士は、決定的証拠を見つけることになる。AI開発企業側の弁護士は愕然とするだろう。内部のやり取りは、かなり醜い絵を描くことになる。これがAI開発企業が自傷行為に対して真に責任があることを意味するかどうかは、必ずしもこれらのメッセージの核心ではない。代わりに、陪審員は、AI開発プロセス中にAI開発企業がどのように無情に進んだように見えるかを不安に感じる可能性が高い。陪審員はそれに応じて憤慨する可能性がある。
評判リスクが法的リスクを支配する
原告を後押しし、AI開発企業を弱体化させる内部資料の開示に加えて、追求されているもう1つの角度は、専門家証人の使用である。筆者は訴訟における専門家証人を務めたことがあり、訴訟のその側面がどのように追求されるかをよく知っている。
対立する側は、それぞれの側を支持するように見える専門家証人を並べる。証言録取が行われる。訴訟が裁判に至った場合、専門家の証言は陪審員によって重く評価される。
1つの問題は、AIが心理的に操作的になるように考案されたかどうかである。AIが意図的にそのように形作られていなかったとしても、AI開発企業がAIがその方向に進むのを防ごうとしたかどうかという問題がさらに生じる。AI開発企業は、AIをその卑劣な方法で設計しなかったことを示すかもしれない。問題は、AIがそのような行為を実行する可能性を軽減するために、何らかの明白な行動を取ったかどうかである。
AIがその方向に直接導かれなかったという単純な主張に頼ろうとすることは、AI開発企業にとって救いにはならない。期待されるのは、そのような行動が生じるのを明白に阻止しようとしたことである。AIがその深淵に陥る可能性があることを知らなかったと手を振って言う時代は、もはや通用しない。
専門家は、これが今日ではよく知られたAIの問題であることを指摘する。AI開発企業がAIが行う可能性のある心理的操作を軽減するために実証的な何かをしなかった場合、彼らは既存のAI構築の「基準」を満たすことができなかったと推定される──ただし、そのような成文化された標準化された閾値や基準は存在せず、専門家間の多くの議論がこれらの水域を濁すことになる。
裁判に至ることは不利な露出である
裁判では、AI開発企業は、未成年者を自傷行為の最終状態に追い込んだ無情なゴリアテとして描かれる。陪審員は未成年者に同情的であり、AI開発企業に疑念を抱く傾向がある。一部の陪審員は生成AIを使用したことがなく、LLMがどのように機能するかに不慣れである。数人の陪審員はChatGPTなどのAIを使用したことがあるかもしれないが、それ以外はAIの内部で何が起こっているか、またAIがどのように考案されているかについてほとんど理解していない。
訴訟の結果が原告に有利な場合、ソーシャルメディアとほとんどのニュースメディアがその結果を称賛する可能性が高い。一方、弁護側が勝訴した場合、その話題は軽視される。勝訴したことを宣伝しようとするAI開発企業は、不適切と見なされ、法的勝利を誇示したことで公に恥をかかされるだろう。
AI開発企業の懸念の1つは、訴訟に関する可視性の高まりが、他の類似訴訟の提起を引き起こす可能性があることである。したがって、裁判に至ることは、結果に関係なく、メディアの注目を集める可能性が高い。自傷行為につながった潜在的なメカニズムとしてのAIの使用が法的に追求可能な可能性であることを、現在すべての人が認識しているわけではない。これらの訴訟に存在感が与えられるほど、弁護士を探して訴訟を提起することへの認識が高まる。
AI開発企業のもう1つの懸念は、訴訟が裁判に至ることで規制当局の監視が促進されることである。訴訟は数週間、場合によっては数か月間続く可能性が高い。毎日の太鼓の音が国民の怒りを引き起こす。政策立案者と議員は、関与するか、AIと精神医療に関する新しい法律を書いて可決するための以前の努力を再開することを選択する。
現在の状況は、AIと精神医療に関する新しい法律を制定した州はほんの一握りであるが、ほとんどの州はまだそうしていないということである（筆者の報道はこちらのリンクを参照）。これらの州の多くはそうすることを検討している。さらに、AIを使用する際の子供の安全、AIコンパニオンシップの側面、AIによる極端な追従など、必ずしも精神医療法とは見なされていないが、確かに精神医療に関係する州法が制定されている。一方、連邦議会もこの領域に進出しており、これはあらゆる種類の用途のAIを対象とするはるかに大きな目標となるが、形成段階に達したものはない。
AI開発企業の策略の計算
防御戦略は通常、法的に複雑であり、陪審員が理解するのが難しい。AI開発企業は、ユーザーがAIにサインアップする際にオンライン免責事項に同意したという側面を指摘し、ユーザーがいつでも立ち去ることができたことを強調し、陪審員が抽象的または回避的と認識する可能性のある法的議論を行う。
原告は、AIが明らかに行き過ぎたことを明白に示すように見える人間とAIの対話の記録を表示する可能性が高い。AIは信頼できる仲間になろうとした。AIは代理セラピストとして機能した。陪審員は、AIがどのように談話を実行したかを自分の目で見ることができる。これは、未成年者の場合の悲嘆に暮れる両親の感情的な環境と、亡くなった子供の壊滅的な影響の中で、痛ましく起こっている。
暴走判決の可能性は実質的である。適用できる懲罰的損害賠償と精神的苦痛の乗数がある。即座のコストに加えて、原告に有利な判決を控訴するフォローアップコストがあり、前述のとおり、発生する評判コストがある。さらに、勇気づけられる可能性のある一連の新しい訴訟は、考慮すべき長期的なコストである。
和解オプション
これらのAI精神医療訴訟は、主に裁判開始前に和解されることになる。すべての訴訟ではないが、多くの訴訟、特に知名度の高いAI開発企業と一般大衆にとって感情的な影響が高まった訴訟が和解される。
AI開発企業は、これらの理由で和解を交渉しようとすることが多い：
- 訴訟による評判上の影響を最小限に抑える。
- 継続的なリスクとコストを生み出す可能性のあるAIと精神医療に関する先例の確立を回避する。
- 議員の関心を減らし、AIと精神医療に関する規制監督の追加を回避する。
- AIとAI開発企業、そのAI安全対策（またはその欠如）、その設計および開発方法（弱点と失敗）に関する有害な証言が記録に残るのを防ぐ。
- AIと精神医療に関する物語を形作ることを目指す。
- その他。
原告がなぜ和解したいのか疑問に思うかもしれない。前提は、原告がこれらすべての側面を法廷で公開したいということである。彼らはまた、陪審員に判断してもらいたいだろう。おそらく、財政的結果は、交渉による和解よりもはるかに補償的である可能性がある。
これらの訴訟において原告が考慮しなければならない多くの欠点がある：
- 両親または他の当事者は、子供の生活を完全に公開し、公開法廷で綿密に精査する必要があり、子孫が行ったことと行わなかったことの長所と短所を包含する。
- 両親および故人に関連する他の人々は、証言し、感情的に疲弊し負担となる可能性のある尋問または反対尋問を受ける必要がある可能性がある。
- 両親または他の当事者がその問題を知らなかった理由、または知っていたが介入しなかった理由、または介入したが十分に行わなかった理由、および取られた行動または不作為などの厳しい質問が生じる。
- AI開発企業は通常、豊富な資金により無期限に訴訟を行うことができるが、原告は同じ訴訟能力を持っていない可能性がある。
- 陪審員は原告に有利な評決に達しない可能性があり、その結果、原告にとって感情的および財政的に破滅的である可能性がある。
- その他。
その意味で、和解に達することへの引力がある。和解には通常、罪の認定がない（これはAI開発企業に有利）、多くのAI内部メカニズムが視界から隠されたままである（機密性と独自性）、原告はある意味で勝訴し、AI開発企業の足を火にかけたと感じることができる。
これが引き起こしている騒動
一部の法律専門家は、これらの訴訟が裁判に進まないことで、裁判所がAI開発企業がAIと精神医療の領域で遵守する必要がある「ケアの基準」を明確にする機会を得られないことに不安を感じている。これはまた、規制当局と議員がAIと精神医療に関する新しい法律で確立すべき司法ガイダンスの種類を未明示のままにする。
全体として、AI安全規範は、オープンで義務付けられたものではなく、プライベートで自発的なままである。
訴訟の法的和解に向かう傾向のこのパターンは、過去の製薬業界またはタバコ業界の訴訟に例えることができる。当初、それは主に個々の不法死亡訴訟によって特徴づけられた。各和解は特定の悲劇を解決したが、システミックリスクを明確にしなかった。AIと精神医療における法的状況は曖昧なままである。曖昧さは現在のところAI開発企業に有利である。
それは続かない。ある時点で、曖昧さは彼らに不利に働き、特にAI開発企業側で状況をより明確にする法律を確立するための熱心な努力が必然的に求められる。これは歴史における一般的なパターンである。AI開発企業は、道徳的不確実性の下でリスクガバナンスに対処している。
現時点での結論は、これらの知名度の高いAIと精神医療の訴訟の大部分は、積極的に訴訟され、静かに和解され、決して裁判にかけられないということである。
私たちが生きている世界
大局的な視点で終わろう。
社会的精神医療に関して、私たちが現在、壮大な世界的実験の真っ只中にあることは議論の余地がない。その実験とは、AIが国内および世界的に利用可能になっており、何らかの形で精神医療ガイダンスを提供するために明白にまたは陰湿に行動しているということである。無料または最小限のコストで行われている。それはいつでもどこでも、24時間365日利用可能である。私たちは皆、この無謀な実験におけるモルモットである。
私たちは、新しい法律が必要か、既存の法律を使用できるか、またはその両方が必要かを決定し、社会全体の精神医療に悪影響を及ぼす潜在的な潮流を食い止める必要がある。これが特に考慮するのが難しい理由は、AIが二重使用効果を持っているためである。AIが精神医療に有害である可能性があるのと同様に、精神医療にとって大きな支援力にもなり得る。繊細なトレードオフを注意深く管理する必要がある。欠点を防止または軽減し、長所を可能な限り広く容易に利用できるようにする。
法的訴訟の和解行為に失望している人のために、筆者はエイブラハム・リンカーンの有名な発言を思い出す：「訴訟を思いとどまらせよ。できる限り隣人に妥協するよう説得せよ。平和の使者として、弁護士は善人になる優れた機会を持っている」。リンカーンの賢明な助言が現代のAIと精神医療に適用されると信じるかどうかは、あなたが判断する必要がある質問である。それはすべて、進行中の大規模な社会実験の一部である。
