如何校验与约束 LLM 的输出（结构 / 安全 / 事实）？

一、三个维度

LLM 输出的可靠性要从结构、安全、事实三方面用模型之外的确定性手段来保障，而不能只靠提示词「请求模型自觉」。

二、结构校验

优先从源头约束：用函数调用 / JSON mode / 约束解码（按 grammar/Schema 强制采样）让输出天然合法；再叠加 JSON Schema、正则、类型校验做兜底解析。失败时把校验错误信息回灌给模型让它修复，并限定重试次数，避免死循环。

三、安全与合规校验

对输出做敏感/违规内容过滤、越界话题拦截、PII 检测与脱敏；可用规则、分类器或审核模型，命中则拦截、改写或返回降级回复，并记录审计日志。

面试里可以补一句：校验与约束 LLM 的输出结构 / 安全 / 事实 在大模型场景下通常要同时权衡效果、延迟、成本和安全边界。回答时最好带一个例子，比如上下文过长、幻觉、缓存命中或工具调用失败时，系统应该如何降级和观测。

四、事实校验

RAG 场景检查输出是否有检索依据、引用是否对应原文（接地检查）；用自一致（多次采样取多数）或独立校验器判断是否编造，无据则拒绝或重生成（参考 结构化输出实践，框架层面可用 LangChain 的输出解析器）。