核心要点
主要风险：金融诈骗（换脸/拟声）、虚假信息、名誉与人格侵害、选举操纵、非自愿色情。
检测技术：识别生成伪影、频域/光照/眨眼等不一致，结合主动水印与内容溯源。
溯源标准：用 C2PA 等内容凭证与不可见水印记录来源，从「事后检测」转向「出身可查」。
治理组合：平台强制标注、法律法规、行业自律与公众媒介素养教育，多层并举。
标准回答
风险
合成媒体（换脸视频、克隆语音、AI 图像）降低了伪造门槛，主要危害包括：冒充身份进行金融诈骗、制造与传播虚假信息、损害个人名誉、非自愿色情，以及在选举等场景操纵舆论、侵蚀社会对媒体的信任。
检测
- 被动检测：训练分类器识别生成伪影，分析频域特征、光照/阴影/几何不一致、生理信号（如眨眼、心率）异常。局限是随生成模型进步而易失效，存在攻防博弈。
- 主动溯源：在生成时嵌入不可见水印，或用 C2PA 等内容凭证签名记录来源与编辑历史，让内容「自带出身」。
治理
- 标注与披露：要求 AI 生成内容显著标识（部分司法区已立法）。
- 法律法规：针对深伪诈骗、非自愿合成色情、选举虚假信息设立责任。
- 平台与自律：上传检测、来源核验、快速下架机制。
- 媒介素养：提升公众对合成内容的辨识与求证意识。
多方视角
需平衡治理与表达自由、合法创作（影视、配音、可及性）。单一手段都不足，检测、溯源、法规与教育需协同。
常见误区
⚠️ 常见踩坑
别迷信「检测器能一劳永逸识别深伪」。检测与生成是持续军备竞赛，纯被动检测准确率会随新模型下降；因此业界更看重生成端的水印与溯源（出身可查），并辅以标注法规，而非只靠事后识别。
追问
追问 1：为什么主动水印/溯源比被动检测更被看好？
被动检测依赖识别生成痕迹，而生成模型不断进步会抹平这些痕迹，形成此消彼长的军备竞赛，准确率难以持续。主动水印与 C2PA 等溯源在生成时就嵌入可验证的来源信息，把「判断真假」变成「核验出身」，更稳健、可问责。但其前提是各生成方普遍采纳，且水印需抗裁剪、压缩等攻击。
追问 2：治理深伪时如何兼顾合法创作与表达自由？
关键是区分用途与危害，而非一刀切禁止。对诈骗、非自愿色情、选举虚假信息等高危害行为追责；对影视、配音、无障碍等合法创作，要求清晰标注与知情同意即可。以「强制披露 + 危害行为追责」为主、内容禁令为辅，兼顾安全与创作、表达自由。
延伸学习
与本题相关的知识库文章、术语、工具与行业资讯。