随机森林在自然语言处理中有哪些优势？

随机森林对 TF-IDF/n-gram 文本特征做集成学习：多棵树在不同样本与特征子集上训练，投票降低方差。适合中小规模文本分类，抗过拟合、可输出特征重要性、无需精细调参。

一、机制

Bootstrap 采样训练多棵决策树；每次分裂随机考察 $sqrt{d}$ 个特征；分类投票/回归平均。

二、NLP 场景优势

1. 降低方差：比单棵树更稳，缓解高维稀疏过拟合
2. 非线性：捕捉词组合模式，无需手动交叉特征
3. 特征重要性：Gini/置换重要性 → 关键词洞察
4. 少调参：对文本基线友好，训练可并行
5. OOB 误差：内置验证，无需单独 hold-out

三、与 GBDT 对比

RF 并行、抗过拟合强；GBDT 串行 Boosting，精度常更高但易过拟合需调学习率/深度。

四、与深度学习

数据少、要可解释、CPU 环境 → RF/GBDT；大数据复杂语义 → BERT。
典型管道：TF-IDF (1-2 gram) → RandomForestClassifier。参考 文本分类。

延伸阅读：文本分类基线。术语：TF-IDF、F1 Score。