Inception Score（初始分数）

Inception Score（IS）是最早被广泛采用的 GAN 自动评估指标之一，用于替代耗时的人工主观评分。

• 提出背景：早期 GAN 研究依赖人工在 Amazon Mechanical Turk 平台上打分，效率低且主观性强
• 核心目标：自动化衡量生成图像的视觉质量与类别多样性两个维度
• 计算基础：使用在 ImageNet 上预训练的 Inception v3 网络作为评估代理
• 分数范围：理论下限为 1，理论上限等于数据集类别数（ImageNet 上为 1000）；越高越好
• 历史地位：2016–2019 年间是 GAN 论文中最常见的标准评估指标之一

IS 的计算过程围绕条件分布与边缘分布的 KL 散度展开。

• 步骤一：对 GAN 随机采样生成约 30,000 张图像
• 步骤二：将每张图像输入 Inception v3，得到 1000 类的条件概率分布 p(y|x)（低熵 = 类别明确 = 质量高）
• 步骤三：对所有生成图像求平均，得到边缘分布 p(y)（高熵 = 类别分布均匀 = 多样性高）
• 步骤四：计算 KL 散度 KL(p(y|x) ‖ p(y)) 并取期望后指数化：IS = exp(E[KL(p(y|x) ‖ p(y))])
• 直觉理解：若生成图像既清晰（分类器自信）又多样（各类别均有），则 KL 散度大，IS 分数高

IS 和 FID 是生成模型评估中最常并列出现的两个指标，但侧重点和缺陷各有不同。

• IS 只看生成分布：不引入真实图像，无法衡量生成分布与真实分布之间的距离
• FID 引入真实分布：计算真实图像与生成图像在 Inception 特征空间的 Fréchet 距离，更贴近人类感知
• 模式崩溃检测：FID 能惩罚多样性不足；IS 在极端情况下（每类生成一张完美图）可得高分
• 计算成本：两者均需大量样本（≥ 10,000 张）；FID 还需要真实参考图像集
• 现状：学界在 2017 年后普遍以 FID 为主、IS 为辅，两者常同时报告

IS 在生成模型研究和工程实践中有明确的使用场景。

• GAN 训练监控：训练过程中定期计算 IS，观察模型收敛趋势和模式崩溃信号
• 横向对比基准：在 ImageNet、CIFAR-10 等标准数据集上比较不同 GAN 架构（如 DCGAN、BigGAN、StyleGAN）
• 消融实验：评估各种训练技巧（谱归一化、渐进式增长等）对生成质量的影响
• 快速筛选：在超参数搜索阶段用 IS 快速淘汰明显较差的配置，节省计算资源
• 文本生成扩展：部分研究将类似思路迁移至文本或音频生成的自动评估

IS 存在若干已被学界充分认识的缺陷，使用时需谨慎解读。

• 不比较真实分布：无法检测生成器是否在记忆训练集（过拟合），高 IS 不代表泛化能力强
• 类内多样性盲区：若每个类别只生成一种风格，IS 仍可偏高，无法反映类内多样性不足
• ImageNet 偏置：依赖 Inception v3 的 ImageNet 先验，对非自然图像域（医疗、卫星、艺术风格）评估失真
• 样本量敏感：样本少于 10,000 张时方差显著增大，跨论文比较结果不可靠
• 实现差异：不同框架（TensorFlow vs. PyTorch）、不同预处理方式会导致 IS 数值不可直接比较

IS 的提出与演进记录了 GAN 评估方法从主观到客观、从单一到多维的发展历程。

• 2016 年：Salimans 等人（OpenAI）在《Improved Techniques for Training GANs》中提出 IS，首次实现 GAN 的自动化评估
• 2017 年：Heusel 等人提出 FID（Fréchet Inception Distance），直接比较真实与生成分布，迅速获得学界青睐
• 2018 年：Barratt & Sharma 发表《A Note on the Inception Score》，系统分析 IS 的数学缺陷和统计不稳定性
• 2019 年后：BigGAN、StyleGAN 等主流论文同时报告 IS 与 FID，IS 逐渐退居辅助地位
• 2020 年代：随着扩散模型兴起，FID、CLIP Score 等新指标进一步分化评估体系，IS 主要用于历史对比

在实际使用 IS 时，有几个工程细节直接影响结果的可靠性。

• 样本量：官方建议至少 30,000 张生成图像，分 10 个 split 计算均值和标准差
• 实现库：使用社区维护的统一实现（如 torch-fidelity）避免框架差异导致的分数不可比
• 并行报告：论文中 IS 应与 FID 一起报告，单独引用 IS 容易被质疑
• 域适配：对非 ImageNet 域数据，建议微调或替换评估网络，避免 ImageNet 先验引入偏差
• 基线对齐：与历史论文比较时，确认使用相同数据集和实现版本，防止「数字游戏」