公開：2026年9月12日, 最終更新：2026年9月12日
30秒サマリー
- 殺人事件の控訴審でChatGPTが生成した架空の証人証言を提出した弁護士が制裁金5,000ドルと法廷侮辱罪の認定を受けた
- 弁護士はChatGPTが「完璧な要約」を作ると信じ、事実確認を怠ったと法廷で認めた
- AI幻覚による架空引用の問題は米国の法曹界で頻発しており、複数の訴訟で制裁事例が続いている
何が起きたか
ニューメキシコ州最高裁判所は、殺人事件の有罪判決に対する控訴申立書に、AIが生成した架空の証人証言や虚偽の警察証言を含めたとして、弁護士スティーブン・アーロンズ氏に5,000ドルの制裁金を科し、法廷侮辱罪を認定した。ロイターの報道をThe Vergeが伝えた。
裁判所の認定によると、申立書には「完全に架空の証人による虚偽の証言」のほか、射手の服装・外見に関する「虚偽の証言」が含まれていた。アーロンズ氏は8月の審問でChatGPTを使用したこと、同ツールが裁判の「完璧な要約」を生成してくれると考えていたことを認めた。C・シャノン・ベーコン判事はロイターによれば「弁護士がAIの幻覚に依存する問題は毎日トップニュースになっている」と指摘し、アーロンズ氏がAIリスクを認識していなかった点を厳しく批判した。
AIツールを業務に用いる弁護士が増えるにつれ、裁判所が架空の判例引用（いわゆる「ハルシネーション」）を発見する事例も増加している。原文によれば、昨年は別の裁判で2つの法律事務所が「多数の虚偽・不正確・誤解を招く法的引用および引用文」を含む申立書を提出したとして裁判官から厳しく批判されたほか、マイピローのマイク・リンデル氏の弁護士もAI生成の誤引用や架空引用を申立書に記載したとして制裁金を科されたとされる。
アーロンズ氏はロイターへの声明で「反省しているが、故意でなく誠実な誤りであったことを懲戒委員会が考慮してくれると信じている」と述べた。
原典ハイライト
ニューメキシコ州最高裁の審問でベーコン判事は「AIハルシネーションに依存する弁護士の問題は毎日トップ記事になっている」と述べ、弁護士がAIリスクを把握していなかったことへの驚きを示した。申立書には架空の証人証言と虚偽の事実記述が含まれており、裁判所は事実確認義務の不履行を制裁理由とした。
出典: The Verge（報道）
So What?（なぜ重要か）
AIが生成した文書を専門業務にそのまま使用した場合、個人への法的・金銭的責任が現実のものとなることが、この事例で改めて示された。「誠実な誤り」という主張は免責事由とならず、専門家としての確認義務が問われる。法曹界での事例が相次ぐ中、AI利用に関するリスクは他の専門職・企業法務部門にも同様に存在する。
日本企業への示唆
日本の企業法務・経営企画・コンサルティング部門など、AIを用いて報告書・契約書・申請書類を作成する部門は、AIの出力を最終確認なしに外部提出するプロセスを直ちに見直す必要がある。今回の事例は「知らなかった」では済まないという司法判断を示しており、AI利用ガイドラインの整備、出力内容の事実確認を担う担当者の明確化、および責任の所在を文書化したフローの構築が急務といえる。特に法的効果を持つ文書や公的機関への提出物については、AI生成部分のダブルチェック体制を義務化することが望ましい。
背景・経緯
AIツールによる架空の法的引用（ハルシネーション）問題は米国の法曹界で複数の事例が報告されており、裁判所による制裁も相次いでいる。原文によれば、昨年もAI生成の虚偽引用を含む申立書を提出した法律事務所が批判を受けた事例がある。こうした背景のもと、司法当局はAI利用に伴う事実確認義務を弁護士に強く求める姿勢を明確にしている。
