AI 安全2026-05-15 16:07·Ars Technica

安大略省审计发现:医生的 AI 记录助手可能在编造内容

Ars Technica 报道,安大略省审计发现医生使用的 AI 记录助手可能在生成不准确甚至完全编造的医疗记录。这引发了对医疗 AI 可靠性的严重担忧。

AI 医疗记录助手:在编造什么?

2026 年 5 月 14 日,Ars Technica 报道了安大略省对 AI 医疗记录工具的审计结果。

审计发现

  • 问题:AI 医疗记录助手可能在生成不准确的医疗记录
  • 严重程度:部分内容被认定为完全编造,与实际情况不符
  • 影响范围:安大略省多个医疗机构使用的 AI 记录工具

行业背景

AI 在医疗场景的应用正在快速扩展——从急诊诊断(news-753)到日常记录。然而,哈佛研究的 AI 诊断优势(准确率 67% vs 50-55%)并不能掩盖 AI 幻觉在其他场景中的风险。

监管启示

医疗 AI 的可靠性需要建立更严格的验证机制。安大略省的审计为其他地区提供了参考:AI 在关键场景的应用必须经过独立审计和持续监控。

来源: Ars Technica
链接: https://arstechnica.com/ontario-audit-ai-doctor-notetaker-hallucinating