如何构建高质量的 SFT 微调数据集？数据质量和数量哪个更重要？

构建 SFT 数据集的目标，是用一批高质量的「指令-回答」样本，把预训练模型的能力对齐到「听懂指令、按期望格式作答」上。整个过程可以拆成四步。

第一步：明确任务分布与多样性
先盘点上线后模型真正要处理的任务类型（问答、改写、摘要、抽取、代码、多轮对话等）及其大致占比，按这个分布去组织数据。指令本身也要多样化——同一个意图用不同措辞、不同长度、不同语气表达，避免模型只学会某种固定句式。

第二步：保证答案质量
回答是 SFT 学习的直接目标，质量上限基本由它决定。两条常用路径：

• 人工撰写/标注：质量高、可控，但成本高、产能低。
• 强模型蒸馏 + 人工校验：用更强的模型批量生成候选答案，再人工或规则抽检、纠错、过滤。这是 2026 年最主流的低成本扩量方式，关键是别盲信蒸馏结果，要保留校验环节。

第三步：统一格式与清洗
统一成 instruction / input / output 三段式结构，便于训练拼接与 loss mask。然后做三件事：

1. 去重：精确去重 + 语义近似去重，避免模型对高频样本过拟合。
2. 去噪：剔除答非所问、事实错误、截断、乱码样本。
3. 去冲突：同类指令给出互相矛盾的答案会让模型无所适从，需统一标准。

第四步：均衡与安全补齐
让难度和长度分布均衡，别让模型只见过简单短样本；并主动加入拒答样本（超纲、违规请求要学会礼貌拒绝）和安全对齐样本。

质量 vs 数量
质量远比数量重要。LIMA 的经典启示是：约一千条精心构造的高质量样本，效果可以胜过海量但充满噪声的数据。但这有个前提——这一千条必须覆盖足够的任务多样性。所以更准确的结论是：在多样性达标的前提下，优先堆质量而非堆数量；当多样性不足时，先补全任务覆盖面，再谈精炼。