米国の弁護士が、架空の引用を含むAI生成ブリーフを提出する件が加速するペースで行われており、裁判所による制裁金が新記録を打ち立てている。さらに、その技術は法務ソフトウェアの中にこれほどまでに深く浸透しているため、専門家は、義務的な開示ルールはすでに時代遅れになっている可能性があると述べている。
概要
米国の弁護士が、架空の引用を含むAI生成ブリーフを提出する件が加速するペースで行われており、裁判所による制裁金が新記録を打ち立てている。さらに、その技術は法務ソフトウェアの中にこれほどまでに深く浸透しているため、専門家は、義務的な開示ルールはすでに時代遅れになっている可能性があると述べている。NPRの4月3日の調査によると、AI生成の誤りに対する裁判所の制裁金の量は2025年を通じて急増し、2026年には減速していない――このパターンは、暗号資産（crypto）を含むあらゆる分野に直接の影響を及ぼす。暗号資産の法的リスクは、防御側として提出されるブリーフの質に左右されるためだ。
HECパリの研究者で、AIによる法的な誤りに対する裁判所の制裁金を世界規模で集計しているDamien Charlotinは、NPRに対し、ペースは頭打ちになっていないと語った。「最近は、1日で10件の事例があり、10の異なる裁判所でした」と彼は言った。「私たちがこの問題に直面しているのは、AIがあまりに優秀だから――ただし完璧ではないからです。」今回のサイクルで最も目立った事例は、MyPillowのCEOであるマイク・リンデルの弁護士たちだった。彼らは、架空の引用を含むブリーフを提出したとして、各人3,000ドルの罰金を科された。
連邦裁判所は先月、オレゴン州の弁護士が制裁金と費用として109,700ドルを支払うよう命じ、新記録を設定した可能性がある。州の最高裁判所も巻き込まれている。ネブラスカ州の高裁は2月、オマハの弁護士を架空の引用をめぐって厳しく追及し、懲戒手続きに回した。同様に3月には、ジョージア州最高裁で同じように公に展開する場面が起きた。「ニュースになっているのに、まだこういうことをしている人がいるのには驚きました」と、ワシントン大学ロースクールの情報・テクノロジー担当の准教授であるCarla Waleは述べた。
一部の裁判所は、提出書面においてAI支援コンテンツにラベル付けを求めることで対応している。Above the Lawのシニア・エディターで、弁護士を経てジャーナリストになったJoe Patriceは、これらのルールはほぼ即座に運用不能になりそうだとNPRに語った。「この仕組みが、あらゆるものが動く方法にあまりに深く組み込まれるので、ルールを懸命に遵守しようとするには、あなたが出すすべてのものに、『これはAIの支援です』と付けなければならなくなります。すると、ある意味で、役に立たない取り組みになってしまうんです」と彼は言った。法的請求（リーガル・ビリング）の経済構造も、減速するどころか採用を加速させている。AIツールが起案にかかる時間を削ると、法律事務所には新しい請求モデルを見つけるよう圧力がかかる――そしてPatriceは、その結果生じる時間的な圧力が、弁護士が十分な検証なしにAIの初稿を受け入れてしまうことを、より誘惑しやすくしていると示唆している。
司法省（DOJ）自身が暗号資産の開発者を訴追することから距離を置いた転換も、部分的には「コードは、犯罪の意図がない限り中立である」という議論に起因していた。これは、急いで行われたAI支援ブリーフが一貫して再現できていないのとまさに同種の、慎重な法的推論を必要とする区別だ。テキサスの連邦裁判所は最近、暗号資産ソフトウェアの責任に関する訴訟を、部分的にDOJの開発者訴追基準に関するメモを引用して却下した。これは、AIに隣接するケースにおける法的推論の質が、セクター全体の規制上の結果を直接左右することを示している。
AIそのものは、法廷の誤りという問題の域を越えて、法的な目の敵（クロスヘア）に今や入っている。3月、OpenAIはイリノイ州の連邦裁判所で、ニッポン生命保険会社（アメリカ）から訴えられた。訴状では、ある女性がChatGPTを法律顧問として使い、保険会社に対して不当な訴訟を起こすに至るような助言を受けていたと主張されている。訴状は、OpenAIが免許なしで法律業務を行ったと非難した。NPRへの書面による声明の中でOpenAIは、「この訴えには、まったくもって何の根拠もありません」と述べた。一方で、ワーレは両極端を退けている。「私は、生成AIを効果的かつ倫理的に使うことを理解している弁護士は、そうでない弁護士に取って代わると思います」と彼女は言った。「それが、私が思う未来です。」
