AI 医疗记录助手:在编造什么?
2026 年 5 月 14 日,Ars Technica 报道了安大略省对 AI 医疗记录工具的审计结果。
审计发现
- 问题:AI 医疗记录助手可能在生成不准确的医疗记录
- 严重程度:部分内容被认定为完全编造,与实际情况不符
- 影响范围:安大略省多个医疗机构使用的 AI 记录工具
行业背景
AI 在医疗场景的应用正在快速扩展——从急诊诊断(news-753)到日常记录。然而,哈佛研究的 AI 诊断优势(准确率 67% vs 50-55%)并不能掩盖 AI 幻觉在其他场景中的风险。
监管启示
医疗 AI 的可靠性需要建立更严格的验证机制。安大略省的审计为其他地区提供了参考:AI 在关键场景的应用必须经过独立审计和持续监控。
来源: Ars Technica
链接: https://arstechnica.com/ontario-audit-ai-doctor-notetaker-hallucinating