Reading Comprehension（阅读理解）

机器阅读理解（MRC）是 NLP 中最能体现语言理解深度的任务之一。

• 定义：给定上下文段落（passage）和问题（question），模型需输出基于段落的答案。
• 四大题型：抽取式（Span Extraction）、多选式（Multiple Choice）、完形填空（Cloze）、生成式（Generative）。
• 核心能力：词汇匹配、句法分析、语义推理、跨句逻辑整合。
• 与 QA 关系：MRC 是闭卷/开卷问答系统的核心组件，也是 RAG 管道的关键环节。

MRC 模型通常对问题与段落进行联合编码，再通过预测答案边界或生成序列来输出结果。

• 编码阶段：将问题与段落拼接（[CLS] question [SEP] passage），送入 Transformer 编码器获取上下文表示。
• 交互注意力：计算问题向量与段落每个词的注意力权重，定位关键信息片段。
• 答案预测：抽取式模型预测答案的起止位置（Start/End token），生成式模型使用解码器生成答案序列。
• 预训练迁移：BERT、RoBERTa 等大规模预训练模型通过微调（Fine-tuning）可在 MRC 任务上取得优异效果。

高质量数据集是 MRC 研究进步的关键驱动力。

• SQuAD 1.1（2016）：斯坦福大学发布，10 万+ 问答对，答案均为维基百科段落的文本片段，是抽取式 MRC 的黄金标准。
• SQuAD 2.0（2018）：新增 5 万+ 无法回答的问题，要求模型区分「有答案」与「无答案」场景。
• MS MARCO（微软，2016）：基于真实搜索引擎查询，包含生成式答案，更贴近实际应用。
• TriviaQA / NewsQA / DROP：分别侧重常识推理、新闻语料和数值推理，覆盖更广泛能力维度。
• 中文数据集：CMRC 2018、DuReader（百度）等专为中文 MRC 设计。

MRC 技术已广泛渗透到多类 AI 产品中。

• 智能客服：从产品手册或 FAQ 文档中直接抽取用户问题的答案。
• 企业知识库问答：结合 RAG（检索增强生成），在私有文档中实现精准问答。
• 搜索引擎摘要：Google、Bing 的「直接回答框」（Answer Box）底层依赖 MRC 技术。
• 医疗/法律文档分析：从长篇专业文本中快速定位关键信息。
• 教育测评：自动生成和批阅阅读理解题目。

MRC 常与开放域 QA、信息检索等概念混淆，需注意区分。

• MRC vs 开放域 QA：MRC 通常给定固定段落，答案来自该段落；开放域 QA 需先从海量文档中检索相关段落，再进行阅读理解。
• MRC vs 信息检索（IR）：IR 返回相关文档列表，MRC 直接返回精确答案。
• MRC vs 知识图谱 QA：知识图谱 QA 基于结构化三元组推理，MRC 处理非结构化自然语言文本。
• 抽取式 vs 生成式：抽取式答案必须是原文片段（更可控），生成式允许模型自由组织语言（更灵活但可能产生幻觉）。

在 SQuAD 上超越人类性能并不等同于真正理解语言，这是领域内最常见的误解。

• 模式匹配假象：模型可能依赖词汇重叠而非真正推理，对改写后的问题表现大幅下降。
• 对抗脆弱性：在段落中插入与答案无关的干扰句，模型准确率显著降低（AddSent 实验）。
• 多跳推理能力弱：需跨多段落整合信息的复杂推理仍是主要瓶颈（HotpotQA 等数据集专门测试此能力）。
• 数值与常识推理：涉及加减运算或常识背景知识的问题，模型性能明显不如人类。
• 领域泛化差：在通用语料训练的模型迁移到法律、医学等专业领域时，性能下降明显。

MRC 经历了从规则系统到大模型的多次范式迁移。

• 2015 年：Hermann et al. 发布 CNN/Daily Mail 数据集，将完形填空引入 MRC，开启深度学习时代。
• 2016 年：斯坦福 SQuAD 1.1 发布，BiDAF、Match-LSTM 等注意力机制模型涌现。
• 2018 年：SQuAD 2.0 发布；BERT 在 SQuAD v1.1 首次超越人类水平（F1 > 91.2），引发预训练革命。
• 2019–2021 年：XLNet、RoBERTa、ALBERT、ELECTRA 等模型持续刷新各项基准；多跳推理（HotpotQA）、对话式 QA（CoQA/QuAC）成为新热点。
• 2022 年至今：大语言模型（GPT-4、Claude、Gemini 等）在 zero-shot/few-shot 设定下接近或超越微调模型；RAG 架构将 MRC 与检索深度融合，成为企业级知识问答的主流范式。