美司法部被曝引用 AI 生成的虚假判例
2026 年 7 月 22 日，Techdirt 报道，美国司法部（DOJ）在移民案件中引用 AI 生成的虚假判例，以支持继续拘留 ICE 被拘留者。
事件要点
| 维度 | 内容 |
|---|---|
| 主体 | 美国司法部（DOJ） |
| 场景 | 移民案件法律文书 |
| 问题 | 引用 AI 生成的虚假判例 |
| 后果 | 支持延续 ICE 拘留，威胁当事人权益 |
为什么严重
「AI 幻觉判例」此前多见于个别律师被制裁的案例；当主体变成掌握公权力的司法部，问题从行业自律升级为公共治理与宪法权利问题——虚假判例进入剥夺人身自由的程序，直接冲击司法公正。
行业呼应
与同期 LitigationBench 发布形成呼应：法律行业同时暴露问题（DOJ 假判例）与构建防线（量化评测模型编造判例倾向）。
治理启示
- 监管：建立政府使用生成式 AI 的核验义务与问责机制
- 厂商：减少法律场景幻觉，提供可溯源引用
AI Master 解读
核心事件
据 Techdirt 报道，美国司法部在移民案件法律文书中引用 AI 生成的虚假判例，用以支持延续 ICE 拘留，凸显生成式 AI 进入高利害法律程序的事实可靠性风险。
行业影响
「AI 幻觉判例」并非新话题——此前已有律师因提交 ChatGPT 编造的判例被法院制裁。但当主体从个别律师变成掌握公权力的司法部，性质截然不同：虚假判例一旦进入剥夺人身自由的法律程序，直接威胁当事人合法权益与司法公正。这起事件把「生成式 AI 事实可靠性」从行业自律问题升级为公共治理与宪法权利问题。
它也与同期 LitigationBench 的发布形成呼应：法律行业正同时暴露问题（DOJ 假判例）与构建防线（量化评测模型编造判例的倾向）。对监管而言，建立政府使用生成式 AI 的核验义务与问责机制已刻不容缓；对技术厂商而言，减少法律场景幻觉、提供可溯源引用是落地的前提。
AI Master 建议
法律从业者使用生成式 AI 必须强制核验每一条判例引用；关注「事实可溯源」与「引用核验」类工具，把幻觉风险拦截在提交之前。