カナダ・ブリティッシュコロンビア州政府は9月21日、生成AI（人工知能）開発の米OpenAIとサム・アルトマン最高経営責任者（CEO）を米連邦裁判所に提訴した。今年2月に発生したカナダ史上最悪の学校銃乱射事件で、容疑者の18歳の元生徒がOpenAIの対話型AI「ChatGPT」と暴力行為を示唆するやり取りをしていたにもかかわらず、同社がその事実を警察に通報しなかったとして、責任を追及するとともに損害賠償を求めている。
サンフランシスコの連邦地方裁判所に提出された訴状によると、容疑者のチャット内容についてはOpenAI社内の人間による審査チームが、他者への具体的な危害リスクがあるとして警察への通報を勧告していた。しかし、同社経営陣は通報を行わなかったとされる。
訴状によれば、容疑者のアカウントは2025年6月にOpenAIの自動監視システムに検知され、「暴力行為を計画している可能性のあるユーザー」を対象とした人間による審査プロセスに回された。
審査チームはカナダ王立騎馬警察への通報を勧告したが、OpenAIの経営陣は「この勧告を却下」し、社外の誰にも通知することなく、ただ容疑者のアカウントを無効化したという。
ブリティッシュコロンビア州政府は、銃乱射事件の数日後に米紙ウォール・ストリート・ジャーナルが報じた、複数の匿名の内部告発者による証言を訴状で引用。この報道がなければ、銃乱射事件において「OpenAIと欠陥のある同社製品が果たした役割」は誰にも知られることはなかっただろうと主張している。
訴状は、OpenAIからカナダ王立騎馬警察へのたった1本の通報があれば「この悲劇は防げたはずだ」と述べている。
ブリティッシュコロンビア州が求めている法的救済には、地域社会と地方自治体が負担した事件後の復興・再建費用にかかる損害賠償に加え、OpenAIが自社製品について「設計に欠陥があった」と認め、「安全性に関する適切な警告を提供しなかった」と宣言することが含まれている。
