裁判所提出書類における誤った、あるいは完全に幻覚的な法的引用に関する裁判所命令や意見の発行件数は、感染症レベルに達したようだ。わずか1年前には、月に1件程度のこうした事例があり、我々は皆その命令をメールで回覧し、弁護士がそこまで愚かなはずがないと嘲笑していた。しかし今では、毎日のように、チェックされないままのAI生成による誤った法律調査の事例が1件以上発生しているようだ。
こうした事例が裁判所に持ち込まれるにつれ、制裁はより厳しくなっている。最近の事例、Billups対Louisville Municipal School Distr.事件（事件番号24-CV-74、2025 WL 3691871（ミシシッピ州北部地区連邦地方裁判所、2025年12月19日））を例に挙げよう。
Billupsは、Louisville Municipal School District（以下「LMSD」）に対して年齢差別の訴えを起こした。Billupsは、Watson & Norris法律事務所、特にJane Watson弁護士、Louis Watson弁護士、Nick Norris弁護士に代理されていた。ある時点で、LMSDはBillupsに対して略式判決の申立てを提出し、ここから事態は興味深い展開を見せる。
Watson弁護士とNorris弁護士がBillupsの代理として提出した反論書面には、4つの「問題のある引用」が含まれていた。完全に捏造された引用が1つ、判例の判示を誤って伝える引用が3つあった。このため、裁判所は略式判決の申立てに対する判断を延期せざるを得なくなり、また本件の公判期日も取り消された。
この結果に満足しなかった裁判所は、Watson弁護士とNorris弁護士に対し、法律に基づかない反論書面を提出したことについて、連邦民事訴訟規則第11条に基づく制裁を科されるべきでない理由を示すよう命じる釈明命令を発した。
Lewis対Entergy Mississippi, LLC事件という別の連邦裁判所の事件で、Watson弁護士は同様の不一致を含む書面を提出していたことが判明した。Lewis事件の裁判所はWatson弁護士に、なぜこのようなことが起きたのか説明するよう命じ、Watson弁護士は、その事件で書面の起草を支援するためにAIツールを使用し、その後AI引用の正確性を検証しなかったことを認めた。
さらに、それ以前の別の事件で、別の弁護士がWatson弁護士に対し、彼女が提出した書面の引用に関する同様の不一致について質問し、Norris弁護士にも何が起きたかを伝えていたことも判明した。ほぼ同時期に、Jane Watson弁護士、Louis Watson弁護士、Nick Norris弁護士の3人全員が、法律実務におけるAI使用の倫理に関する継続法律教育コースに参加していた。
これら2つの先行事例を念頭に、Billups事件の裁判所は、Watson弁護士がLMSDの略式判決申立てに対する反論の起草に再びAIを使用したことを認めたと指摘した。何が起きていたのか。
Watson弁護士がAI生成の架空の引用を使用していることが発覚した最初の事例の後、Watson & Norris法律事務所は、訴訟支援ソフトウェアパッケージに含まれる「Archie」と呼ばれるAIプログラム以外のAIプログラムを使用して起草作業を支援することを、事務所の3人の弁護士に制限するAI使用方針を採用していた。法律事務所はWatson弁護士にAI法律調査を避けるよう「強く奨励」し、Billups事件の裁判所の意見によれば、「Watson弁護士は事務所に対し、この方針を遵守すると伝えたようだが、これは明らかに守られなかった約束だった」。
実際、法律事務所は、Watson弁護士が少なくとも10件の事件で、欠陥のある引用を含む書面を生成するためにAIを使用していたことに気づいた。法律事務所はまた、AI引用が使用された事件において、修正された書面の提出を含む「是正措置」を講じたことを約束した。
法律事務所はその後まもなく解散した。しかし、それで全員が責任を免れるわけではない。
裁判所は、連邦民事訴訟規則第11条が、裁判所に何かを提出する前に事実と法律について合理的な調査を行う義務を弁護士に課していると指摘した。これは客観的基準によって測定され、主観的基準ではない。つまり、最も純粋な意図を持つ弁護士であっても、その合理的調査基準が満たされなければ制裁を受ける可能性がある。
裁判所は次のように指摘した。「熟練した優秀な弁護士と、AIを使ってそのように見せかける者との間には違いがある」。この事件では、AIを使用してその出力を検証しなかったことで、裁判所はWatson弁護士が作り出した混乱に対処するために貴重な時間を大量に浪費することになった。
Watson弁護士は自ら責任を認め、「私は大きな過ちを犯しました。怠惰でした。自分の仕事をチェックしませんでした」と認めた。さらに、「引用をチェックしないという過ちは二度と犯しません」と約束した。
時には自ら責任を認めることが功を奏することもある。しかし、そうでないこともある。
今回は功を奏さなかった。裁判所は、Watson弁護士が出力をチェックせずにAIを使用した多数の事例に関与し、継続法律教育を受けたにもかかわらずこれを行い、事務所のAI方針に違反したと指摘した。したがって、裁判所はWatson弁護士の「不正行為は特に悪質かつ多発している」と認定した。
裁判所は次に、LMSDの略式判決申立てに対する反論書面に署名したNorris弁護士に目を向けた。Norris弁護士は、ある弁護士が別の弁護士の引用に依拠することは一般的である（実際そうである）という趣旨の弁護を行った。問題は、これが連邦民事訴訟規則第11条の制裁に対する弁護にならないことだ。弁護士として裁判所への提出書類に署名する際、あなたはそれが真実で正確であることを保証する。共同弁護人がWatson弁護士のように失敗した場合、共同弁護人としてのあなたも依然として責任を負う。
さらに、Norris弁護士は、Watson弁護士が引用の正確性をチェックせずにAI出力を単純に受け入れていることを実際に知っていた。Norris弁護士は「長年にわたって問題なくこの裁判所に出廷してきた」良心的な弁護士のようだったが、裁判所はここで彼を見逃すことを望まなかった。
残るは法律事務所の3人目の弁護士、James Watson弁護士だった。反論書面に署名していなかったため、James Watson弁護士は連邦民事訴訟規則第11条に基づいて制裁を受けることはできなかった。しかし、裁判所は、彼が法律事務所の監督弁護士であったため、長年良好な状態で裁判所に出廷していたにもかかわらず、責任を完全に免除することはなかった。
そして今、この事件で裁判所が科した制裁に目を向けよう。
第一に、裁判所は3人の弁護士全員とそれぞれの（新しい）法律事務所を、LMSDに対するBillupsの事件における代理から失格させた。これは、彼らの事件に関する作業のほぼすべてが経済的に無駄になったことを意味する。Billupsはこのすべてにおいて無実の被害者であったため、弁護士の罪で罰せられることはなく、新しい弁護士を獲得するために60日間が与えられた。
第二に、3人の弁護士全員は、現在弁護人を務めているすべての事件のすべての裁判官に、裁判所の制裁命令のコピーを提供することを求められた。痛い。
第三に、Watson弁護士は、この特定の裁判官（米国地方裁判所のSharon Aycock上席判事）の前でのすべての事件から撤退し、2年間この特定の裁判官の前での新しい事件に出廷しないことを求められた。雇用法の事件は通常連邦裁判所で扱われ、各地区には限られた数の連邦裁判官しかいないため、これは深刻な打撃である。
最後に、法律事務所自体（実際には、事務所自体が解散したため3人の弁護士）は、Jane Watson弁護士が事務所の準弁護士として初めて就任した時点まで遡って、彼女がいかなる提出書類にも署名者であったすべての事件の内部監査を実施することを求められた。監査は、不正確なAI出力のさらなる事例を特定し、それらが発生したすべての事件において必要な是正措置を講じることを目的としていた。
さて、彼らの週末はしばらくの間なくなった。裁判所は命令を次のように締めくくった。
「違反の深刻かつ多発的な性質に鑑み、裁判所はこれらの制裁が抑止を達成するための最も軽度のものであると認定する。全国の裁判所は、AI時代における司法の完全性を維持するという困難な課題に直面している。弁護士も本人訴訟当事者も同様に、裁判所の限られた資源を消耗させる架空の提出書類で裁判所を攻撃している。結局のところ、被害者は裁判所ではなく、法廷での審理が無限に遅延される人々である。これは続けられない」
分析
これは確かに続けられない。AI引用の不一致の事例は、法律専門誌や主流メディアでも数多く報告されている。すべての弁護士は今や、AI出力が非常に疑わしく、検証されなければならないことを知っているはずだ。弁護士が、その正確性を最初に検証することなく、AI出力に基づいた裁判所提出書類を作成する、あるいは実際にはいかなる法的文書を起草することについても、単純に言い訳の余地はない。
しかし、これが私を怒らせるものではない。このすべてについて最も腹立たしいことは、多くの弁護士が引用の出所である裁判所の意見を読むために時間を費やしていないことを示していることだ。代わりに、彼らは単に法律の要点への生の引用を取り、（時には）AI引用と一致するかどうかを確認するために事件の特定の箇所をちらっと見るだけだ。
AI以前から、法律専門職にはいわゆるヘッドノート弁護士の問題があった。公表された裁判所の意見は、連邦判例集やカリフォルニア判例集などのレポーターと呼ばれるものに収録されていた。これらのレポーターは、その起源が中世イングランドにまで遡り、さまざまな企業によって出版されている。意見の冒頭に、出版社は、意見に見られる法律の最も重要な要点を要約したいわゆるヘッドノートを追加した。これらのヘッドノートは、弁護士が自分の事件に関連する意見を見つけるために、ダイジェストと呼ばれるものに主題別に収集された。ヘッドノート弁護士とは、意見の残りの部分、つまり法律の要点が発表された文脈を考慮せずに、単にヘッドノートを権威として引用する者だった。文脈は意見の解釈と適用において文字通りすべてであるため、このヘッドノートの引用は怠惰で望ましくない慣行と見なされていた。
ヘッドノートに有利だった1つのことは、出版会社で働く人間の法律研究者によって書かれていたため、ヘッドノートは文脈がなくても、ほぼ常に意見が述べていることを述べていたことだ。AI法律調査との違いは、現在の形式では、AIが法律の要点を誤って述べるか、単に引用を完全に捏造するという困った習慣があることだ。したがって、基本的にAIを使用して法律調査を行っている弁護士は、基本的にヘッドノート弁護士だが、その慣行の欠点は二乗される。あるいは三乗される。
これらのAI不一致で私を本当に怒らせるのは、関与した弁護士が、引用の正確性をチェックしなかったことで誤ったと述べて自ら責任を認めていることだ。実際に意見を読むために時間を取ることについてはどうだろうか。あるいは少なくとも、事件が何についてのものかを確認するために意見をざっと見て、それからより良い部分を注意深く読むことについては。私は多くの場合、特定の部分についてのみ意見に導かれ、その後、提起すべき追加の質の高い議論を見つけた。また、法律の1つの要点があなたに有利かもしれないが、意見の残りの部分があなたの立場にとって悲惨である可能性もある。後者の場合、相手方弁護士はあなたの1つの引用を、あなたが意見に同意している証拠として取り、その後意見の残りの部分であなたを打ちのめすかもしれない。
それは怠惰だ。それは愚かだ。それは非倫理的だ。それは連邦民事訴訟規則第11条および裁判所に対するその他の義務に違反する。あなたのために起草するためにAIを使用するのをやめなさい。
これは、AIが法律調査に使用されるべきではないことを意味するものではない。私は逆が真実であると固く信じている。AIは、正しく利用されれば、法律調査のための強力なツールになり得る。
私の法律事務所は、Thomas Reutersが発行するWestlaw Advantageと呼ばれるパッケージを購読している。このパッケージには、「CoCounsel」と呼ばれるAIコンポーネントが含まれている。いかなる問題の調査を開始する際も、私はまず、調査したい法律の要点の概要を提供するプロンプトを作成する。数分後、CoCounselは、顕著な問題を取り巻く法律の概要を提供する数ページの覚書を作成する。この覚書はまた、私が以前考えていなかったかもしれない他の議論のアイデアを頻繁に提供してくれる。CoCounselは覚書に裁判所意見の関連箇所への引用を含めている。これらは覚書内でハイパーリンクされており、私はそれらのリンクをクリックして、自分で事件を読むことができる。
その後、私の法律調査は、事件を読み、困難な分析と書面作成を自分で行うという旧来の方法に従う。CoCounselがなければ、おそらく同じ場所にたどり着いていただろうが、CoCounselが私に相当な時間（そして私の依頼者に相当な金額）を節約してくれることは間違いない。これはCoCounselの広告ではないが、本当に素晴らしい製品だ。CoCounselは、Westlawの法令、裁判所意見、法律評論などのコレクションに調査を限定しているため、一般的にインターネット上で誰かの馬鹿が書いた何かクレイジーなものに依存することを心配する必要はない。公平を期すために、Lexisにも同様の製品があると聞いており、おそらく他にもそのようなAIサービスがあるだろう。
つまり、AIは法律調査のためのツールの1つであり、法律調査の代替物ではないということだ。AIは法律調査の素晴らしい出発点になり得るが、その用語のより広い意味での法律調査そのものではない。結局のところ、弁護士は考えるために報酬を得ている。弁護士はまた、考えることができるように知識を頭にアップロードする困難な法律調査を行うために報酬を得ている。弁護士はAI出力をカット・アンド・ペーストするために報酬を得ているわけではない。それは弁護士がすべきこと、倫理的に行うことを求められていることすべてに反する。
裁判官も弁護士であり、したがって裁判官が裁判所への提出書類におけるAI不一致に憤慨するのは驚くべきことではない。その行為に従事した弁護士が連邦民事訴訟規則第11条に違反したというだけでなく、そうすることによって弁護士は、そもそも弁護士会の会員であるべきではない怠惰で非倫理的な怠け者であることを認めたということだ。
そして、弁護士会の懲戒委員会もこの非常に有害な慣行を取り締まり始めるにつれて、私たちが目にする次の波の結果がそれになると予想している。一部の弁護士はAIを使用して免許を失うことになり、そうでなければ彼らのサービスに依存していたであろう訴訟当事者にとって、それは悪いことではないだろう。
