核心要点
解释偏差与方差含义
总泛化误差分解
列举降低偏差/方差手段
简要回答
偏差是系统性偏离(欠拟合);方差是对训练集波动敏感(过拟合)。增加复杂度降偏差升方差,反之亦然。
标准回答
一、先把结论讲清楚
偏差是模型系统性预测错方向,常见表现是训练集和验证集都差;方差是模型对训练集波动太敏感,常见表现是训练集好、验证集差。
二、拆开机制和判断点
经典分解可以记成 Error = Bias² + Variance + Noise。高偏差要加强模型、特征或训练;高方差要加正则、更多数据、集成或降低模型复杂度。
三、补上例子、边界和取舍
可以用打靶类比帮助表达:偏差是准星偏,方差是散布大。工程上还要结合学习曲线和验证集切片判断,而不是只凭一个总指标下结论。
常见误区
⚠️ 常见踩坑
误区一:容易答偏的地方:只背概念不会举例;混淆相似术语;忽略工程落地约束。
追问
追问 1:深度学习时代偏差-方差权衡还适用吗?
适用但表现复杂,存在双下降(double descent):模型过大时测试误差可能再次下降。不能仅用经典权衡解释,但诊断思路仍有参考价值。
追问 2:如何用学习曲线诊断?
题库专题:如何用学习曲线诊断欠拟合与过拟合?画训练/验证曲线:两条都高→高偏差;训练低验证高→高方差。据此决定增数据、正则或增模型容量。
题库延伸:与本追问相关的专题题 → 如何用学习曲线诊断欠拟合与过拟合?
追问 3:Bagging 和 Boosting 对偏差方差的影响?
题库专题:集成学习中 Bagging 与 Boosting 有什么区别?可以直接说:Bagging 更偏向降方差,Boosting 更偏向降偏差,但二者都不是绝对的。Bagging 通过对数据重采样训练多个相对独立的模型,再做平均或投票,能把单棵树这类高方差模型稳定下来;随机森林就是典型例子。Boosting 则是一轮轮盯着前一轮犯错的样本,让弱模型逐步补短板,所以常能把欠拟合压下去,但也更容易过拟合噪声。项目里如果单模型波动大,可以先试 Bagging;如果基线明显欠拟合,再考虑 Boosting,并配合学习率、树深和早停控制风险。
题库延伸:与本追问相关的专题题 → 集成学习中 Bagging 与 Boosting 有什么区别?
🔗 相似问题
同一考点的不同问法,换着练更稳
延伸学习
按主题分类的相关资源,便于系统复习
