标准回答
定义
维度灾难指随着特征维度增加，许多在低维下有效的方法和直觉会失效。核心有两点：
- 数据稀疏性指数增长：要在 d 维空间保持相同的样本密度，所需样本量随 d 指数增长，现实中数据相对空间体积总是极度稀疏；
- 距离集中：高维下任意两点的距离趋于相近，最近邻与最远邻的差距缩小，「相似/不相似」失去判别力。
后果
- 基于距离的方法（KNN、K-means、核方法）效果下降，因为「近邻」不再可靠；
- 模型自由度过高、相对样本太少，极易过拟合，泛化变差；
- 计算与存储成本上升。
应对
- 降维：线性用 PCA、非线性用 t-SNE/UMAP（后者多用于可视化）；
- 特征选择：剔除冗余/无关特征；
- 正则化（L1/L2）抑制过拟合；
- 选择对高维更鲁棒的模型（如树模型、线性模型 + 正则）并尽量增加有效样本量。
常见误区
⚠️ 常见踩坑
别把维度灾难仅理解成「计算变慢」——更本质的是距离失去意义、样本相对稀疏导致泛化崩坏。也别以为加特征总能提升效果，无关特征会加剧灾难。
追问
追问 1：为什么高维下距离会趋于集中？
每个维度都给距离贡献一份随机波动，维度越多这些贡献被平均化，使得任意点对的距离方差相对均值越来越小，最近邻与最远邻的相对差距趋于 0，距离因此失去区分度。
追问 2：PCA 是如何缓解维度灾难的？
PCA 找方差最大的若干正交主成分，把数据投影到低维子空间，保留大部分信息、去除冗余与噪声方向，从而降低维度、缓解稀疏与过拟合，并加速后续基于距离的算法。代价是损失可解释性和部分小方差信息。
追问 3：是不是特征越多模型越好？
不是。无关或冗余特征会增加维度灾难、引入噪声、抬高过拟合风险并增加计算量。应通过特征选择/降维保留真正有信息量的特征，质量比数量更重要。
延伸学习
与本题相关的知识库文章、术语、工具与行业资讯。