Model Poisoning（模型投毒）

Model Poisoning 的主要攻击向量包括：训练数据投毒——在公开数据集中注入带标签错误或后门触发器；权重投毒——修改开源模型权重文件，使特定输入产生预期输出；微调投毒——在 LoRA/Adapter 微调数据中注入恶意样本。2026 年 The Register 报道的攻击成本低于 $100，说明这种攻击的门槛极低，对开源生态构成系统性威胁。

防御 Model Poisoning 需要多层方案：来源验证——只从可信渠道获取模型权重，验证 SHA256 哈希；行为测试——使用红队测试集检测后门触发条件；运行时监控——对模型输出做异常检测，识别偏离预期的输出模式；模型水印——在输出中嵌入不可见水印，追踪模型来源和篡改历史。GPT-Red（blog-439）的自动化红队能力可以辅助检测投毒模型。

Model Poisoning 对开源 AI 生态的影响深远：Hugging Face 等模型托管平台需要加强模型安全审计；企业使用开源模型需要建立供应链安全流程；AI 安全团队需要将模型投毒纳入威胁模型。开源 AI 的信任基础不仅在于代码透明，更在于模型权重的可验证安全性。