文章摘要
让机器理解和生成人类语言。从词嵌入、文本分类到 BERT 微调,理解 ChatGPT 背后 20 年的技术演进。
0为什么学 NLP?
ChatGPT、Claude、文心一言——这些产品的核心技术都来自 NLP。
但 NLP 不只是聊天机器人。它还包括:
- 情感分析(这条评论是好评还是差评?)
- 命名实体识别(这段话里提到了哪些公司、人名?)
- 机器翻译(中英文互译)
- 文本摘要(把长文压缩成三句话)
架构图示 1
架构图示 2
🎯 相关面试题
巩固本篇知识点,备战 AI 岗位面试。
- 中级概念高频查看详解 →
BERT 和 GPT 的架构与适用场景有何不同?
BERT 是 Encoder-only 双向理解模型,适合分类/NER;GPT 是 Decoder-only 自回归生成模型,适合文本生成与对话。
- 中级概念查看详解 →
Word2Vec 的 CBOW 与 Skip-gram 有什么区别?
CBOW 用上下文预测中心词、训练快、在大语料/高频词上更稳;Skip-gram 用中心词预测上下文、对低频/罕见词和小语料更好,常配负采样加速。
- 高级概念查看详解 →
决策树如何用于自然语言处理任务?
NLP 中常先把文本转为 [TF-IDF](/glossary/tf-idf) 或 n-gram 稀疏向量,再用决策树做情感分类、主题分类、意图识别等。树模型可解释性强,但对高维稀疏文本易过拟合,实践中多与随机森林、XGBoost 或线性模型配合。
- 高级概念查看详解 →
朴素贝叶斯分类器如何用于自然语言处理?
朴素贝叶斯用贝叶斯定理 + 特征条件独立假设做文本分类:用训练集估计 $P(c|w_1...w_n) \propto P(c)\prod P(w_i|c)$。Multinomial NB 配合词频/TF-IDF 广泛用于垃圾邮件过滤与短文本分类,小数据上极快且稳健。
