Bias（偏见）

机器学习模型本质上是对训练数据分布的拟合；当数据本身携带历史偏见或采集过程存在抽样偏差，模型就会在推断时系统性地偏向特定结论。

• 系统性是偏见与随机误差（Noise）的根本区别：偏见持续朝某一方向倾斜，而非随机分布。
• 部署到招聘筛选、信贷评估、刑事司法等高风险场景后，偏见会对受影响群体造成真实损害。
• 欧盟《AI 法案》（EU AI Act）和美国 NIST AI RMF 均将偏见风险列为高风险 AI 系统的必审项目。
• 「算法偏见」与统计学中「bias-variance tradeoff」的 bias 同名但含义截然不同，前者指社会不公平，后者是纯数学概念。

可以把模型想象成一个只凭「历史档案」学习的助理。

• 如果档案里程序员几乎都是男性，模型就会把「程序员」与男性强关联。
• 如果某族裔历史贷款违约率偏高（本身可能源于结构性不平等），模型会将该族裔整体标记为高风险。
• 模型并非主观作恶，而是忠实复现了数据里的不平等——问题在于我们不希望它把「过去的不公平」当作正确答案延续下去。
• 规模效应：LLM 训练语料越大，潜在偏见的覆盖面与影响力也越广。

偏见可从数据采集到模型部署的多个环节注入。

• 历史偏见（Historical Bias）：标签本身反映了过去社会的歧视性结果，例如历史招聘决策本身就不公平。
• 表示偏见（Representation Bias）：某些子群体在训练集中欠代表，模型对其泛化能力更弱。
• 标注偏见（Annotation Bias）：标注者的主观判断不一致，或本身携带文化偏见，影响标签质量。
• 聚合偏见（Aggregation Bias）：将不同子群体数据混合训练时忽视群体差异，子群体表现被掩盖。
• 反馈循环偏见（Feedback Loop Bias）：模型输出被用于生成新训练信号，错误被不断放大，推荐系统中尤为突出。
• RLHF 引入的偏见：人类反馈强化学习中标注员的价值观分布直接塑造大模型的「偏好」。

系统性检测是治理偏见的前提，常用手段涵盖定量评估与对抗测试。

• 子群体分层评估：按性别、种族、年龄等维度分别报告指标，发现差距。
• 反事实评估（Counterfactual Evaluation）：将受保护属性替换后对比输出是否一致。
• 公平性基准数据集：针对语言模型的 WinoBias、BBQ 等专项评测集。
• 红队测试（Red Teaming）：人工或自动化方式主动寻找偏见触发点，已成为大模型发布前的常规工序。
• 不同公平性定义——人口均等（Demographic Parity）、机会均等（Equal Opportunity）、校准公平（Calibration）——在数学上可能相互矛盾，治理时需明确优先级。

缓解策略通常分三个阶段进行，没有任何单一技术能一劳永逸。

• 训练前：数据集审计、重采样或重加权，以提升代表性。
• 训练中：在损失函数里加入公平性约束，引导模型学习更公平的表示。
• 训练后：调整分类阈值以平衡子群体误差率（阈值后处理），或使用护栏模型（Guardrails） 过滤输出。
• 词嵌入去偏（Hard Debiasing）是早期代表性方法，但后续研究表明仅修改向量空间并不能彻底消除隐含偏见。
• 模型卡（Model Card） 透明披露已知偏见风险与测试结果，逐渐成为行业规范； 公平性-准确率权衡（Fairness-Accuracy Trade-off）仍是工程实践的核心挑战。

AI 偏见问题的系统性研究约在 2016 至 2018 年间进入公众视野，此后持续深化。

• 2016：Bolukbasi 等人发表论文，通过 Word2Vec 类比实验（如「man:programmer=woman:homemaker」）量化词嵌入中的性别偏见；ProPublica 发布调查报告，揭示刑事司法风险评分工具 COMPAS 对黑人被告的误判率显著高于白人被告。
• 2018：Joy Buolamwini 与 Timnit Gebru 发表 「Gender Shades」，发现主流商业面部识别系统对深肤色女性的错误率远高于浅肤色男性，引发广泛讨论。
• 2019-2021：学界与工业界提出多种公平性框架与去偏工具；欧盟 GDPR 落地，算法可解释性要求趋严。
• 2022 至今：LLM 规模扩大，偏见与对齐议题深度交织，成为 AI Safety 的重要子领域；各大机构公开红队测试框架与系统卡。

偏见与若干相邻概念常被混淆，需加以区分。

• vs. 统计 bias：统计学「bias-variance tradeoff」中的 bias 是预测值与真实值的系统误差，为纯数学概念，与社会公平性无关。
• vs. 幻觉（Hallucination）：幻觉是模型生成了不存在的事实；偏见则是对真实存在对象的歧视性或失衡判断，两者成因与治理路径均不同。
• vs. 对齐（Alignment）：对齐是更宏观的目标（模型行为符合人类价值观），偏见是其中一个具体子问题。
• vs. 护栏（Guardrails）：护栏是治理偏见的工程手段之一，而非偏见本身。