设计医疗问诊系统时，如何平衡 AI 幻觉风险与效率？需要哪些技术手段？

先定调：风险优先医疗问诊不同于普通问答，错误信息可能直接危害健康，因此设计目标不是"答得多快多全"，而是"在安全可控前提下尽量高效"。幻觉在这里是不可接受的，所有技术手段都服务于把幻觉风险降到最低，效率优化只能在安全边界内进行。接地：RAG + 强制证据核心手段是 RAG：把权威临床指南、药品说明书、循证医学文献等构建成知识库，回答前先检索，并在 Prompt 中强制要求模型只基于检索到的证据作答并标注引用来源，不得凭参数记忆自由发挥。生成时用低温度（low temperature） 减少随机发散，降低编造概率。置信度评估与转人工对模型输出做置信度评估（如检索证据是否充分、答案是否被引用支持、是否触及高危关键词），一旦低置信度、超出系统能力或涉及急危重症，不强行作答，转交人工医生或明确建议线下就诊，把"不确定"显式暴露而非掩盖。安全护栏设置硬性规则：禁止开具处方、禁止下达确定性诊断，输出附诊断免责声明（仅供参考、不替代医生）；输入侧做敏感与急症意图识别，识别自杀、心梗等高危信号时走专门预警/转接流程而非常规回答。人机协同与可追溯 建立人工医生审核闭环：高风险或边界回答先经医生复核再出口，医生反馈回流持续优化。全链路保留可追溯日志（问题、检索证据、模型输出、引用、是否转人工），便于审计与责任界定，并严格满足隐私保护与医疗合规 要求。效率从哪来在不牺牲安全的前提下提效：用AI 分诊先归类病情紧急度与科室，把简单常见问题与高危问题分流；对标准化的常见问题做语义缓存，命中即复用经审核的答案，减少重复推理与人工成本。