标准回答
阈值的作用
向量检索默认会按 Top-K 返回固定数量片段，但「最相似的 K 个」未必真的相关。相似度阈值是在 Top-K 之上加一道闸门：只有得分高于阈值的片段才进上下文，从而剔除「凑数」的低相关结果，尤其是当知识库里根本没有相关内容时，让系统能够「拒答」而不是硬塞。
设置不当的影响
- 阈值太高：召回过少甚至空召回。模型拿不到支撑证据，要么直接答不出，要么基于参数化记忆自行编造，幻觉风险上升。
- 阈值太低：形同虚设，无关片段被放进上下文，引入噪声、占用 token，把模型注意力带偏，答案质量下降。
如何设置阈值
- 看分数分布：在验证集上跑检索，画出相关片段与无关片段的相似度分布，取能较好区分二者的分界点。
- 逐库逐模型标定：不同 embedding 模型、不同距离度量（cosine / 内积 / L2）分数尺度不同，阈值不能跨库照搬，要各自标定。
- 归一化分数：把原始距离/相似度归一到统一区间，便于设阈值和跨场景比较。
- 与 Top-K 联合：取「top-k 且分数≥阈值」，既限数量又保相关；命中为空时走兜底（提示无相关资料或转人工）。
- 上线监控：持续监控空召回率与平均召回相似度，随语料变化动态校准。
常见误区
⚠️ 常见踩坑
把某个「魔法阈值」（比如 cosine 0.8）当成通用标准直接套用。相似度分数高度依赖 embedding 模型、距离度量与语料分布，跨模型/跨库照搬阈值往往导致大面积空召回或噪声泛滥，必须基于本系统的真实分数分布标定。
追问
追问 1：阈值设得偏高导致空召回时，系统应该怎么兜底？
不要让模型在没有证据的情况下硬答。常见兜底：一是明确回复「未找到相关资料」或给出已知范围，避免幻觉；二是放宽阈值或加大 Top-K 做二次检索；三是改写/扩展 query（HyDE、多查询）再检索；四是转人工或引导用户补充信息。关键是把空召回当成一种可处理的状态，而不是异常。
追问 2：相似度阈值和 Top-K 各自解决什么问题，能否只用一个？
Top-K 控制「数量上限」，保证不会塞太多；阈值控制「质量下限」，保证不塞太烂。只用 Top-K 时，库里没相关内容也会强行返回 K 个噪声；只用阈值时，相关片段很多时又可能召回过量。实践中两者结合：先按阈值过滤掉低相关，再按 Top-K 截断，质量与数量都受控。
追问 3：不同 embedding 模型的阈值为什么不能通用，如何快速标定新模型的阈值？
不同模型训练目标和向量空间不同，相同语义对的相似度数值差异很大，距离度量（cosine/内积/L2）也会改变分数尺度。标定方法：准备一批「query–相关片段」正例和「query–随机片段」负例，跑出两组相似度分布，选使正负例分离度最高（如 F1 或 ROC 最优）的分数作为阈值起点，再在线微调。
🔗 相似问题
同一考点的不同问法，面试官可能换着问，一起刷更稳
没找到想看的面试题？把你想看的告诉我们 →
延伸学习
按主题分类的相关资源，便于系统复习