Continual Learning（持续学习）

持续学习旨在让模型在动态数据流中持续进化，而不丢失已积累的知识。

• 核心目标：在顺序接收新任务或新数据时，模型既能学会新内容，又能保持对旧内容的良好表现
• 与批量学习的区别：传统训练假设数据一次性可用；持续学习面对的是随时间变化的非平稳数据流
• 灾难性遗忘（Catastrophic Forgetting）：神经网络的反向传播会用新梯度覆盖旧权重，是持续学习最核心的挑战
• 研究地位：被认为是迈向通用人工智能（AGI）的关键能力之一，与元学习、迁移学习并列为现代 ML 前沿领域

持续学习系统通过多种机制在「可塑性」（学新知识）与「稳定性」（保旧知识）之间寻求平衡。

• 稳定性-可塑性困境（Stability-Plasticity Dilemma）：过强的稳定性导致模型无法学新内容，过强的可塑性则导致遗忘
• 任务场景划分：任务增量（Task-IL）、类别增量（Class-IL）、域增量（Domain-IL）三种典型设置，难度依次递增
• 评估指标：前向迁移（Forward Transfer）、后向迁移（Backward Transfer/BWT）、平均准确率（Average Accuracy）
• 核心权衡：计算代价、内存占用与遗忘程度三者之间的工程取舍贯穿所有方法

持续学习方法可归纳为三大类，各有适用场景与权衡。

• 正则化方法：在损失函数中加入约束，惩罚对旧任务重要权重的改动；代表作 EWC（Elastic Weight Consolidation，Kirkpatrick 等，2017）利用 Fisher 信息矩阵量化权重重要性
• 回放/排练方法（Replay/Rehearsal）：在学习新任务时混入旧任务数据（Experience Replay）或用生成模型（如 VAE、GAN）合成伪旧样本（Pseudo-Rehearsal），是目前效果最稳定的一类方法
• 架构方法：为每个新任务动态扩展网络模块（Progressive Neural Networks）或使用稀疏掩码（PackNet）将参数空间分区隔离，从结构上避免干扰
• 混合方法：如 DER（Dark Experience Replay）结合知识蒸馏与回放，兼顾效果与存储效率

持续学习在数据持续变化或隐私敏感的真实场景中价值突出。

• 医疗诊断：医院数据不能共享，模型需在各机构分布式、顺序更新的影像数据上持续学习新病种
• 自动驾驶：车辆在不同天气、地区、交通状况下持续积累驾驶经验，而不重置已掌握的基础感知
• 大语言模型知识更新：通过持续微调（Continual Fine-tuning）将最新知识注入 LLM，减少幻觉并替代高代价的全量重训
• 工业质检：产线产品规格随批次变化，模型需增量适配新缺陷类型而不遗忘已知缺陷
• 推荐系统：用户偏好随时间漂移，持续学习帮助模型跟上分布变化而不重训全量历史数据

持续学习常与迁移学习、在线学习混淆，理解边界有助于正确选型。

• vs 迁移学习：迁移学习是「一次性」将源域知识迁移到目标域，不强调顺序增量；持续学习强调在时间轴上不断积累多个任务的知识
• vs 在线学习（Online Learning）：在线学习关注每条样本到来时的增量更新，通常假设任务分布固定；持续学习允许任务本身切换，且明确度量遗忘
• vs 多任务学习：多任务学习同时访问所有任务数据联合训练，无遗忘问题；持续学习只能访问当前任务数据，旧数据不完全可用
• vs Fine-tuning：直接微调会导致灾难性遗忘，是持续学习要解决的问题，而非其解决方案

正确理解持续学习的局限有助于避免工程落地中的常见错误。

• 回放的隐私风险：存储旧样本进行回放可能违反数据隐私法规（如 GDPR），生成式伪排练是替代方案但质量难以保证
• 可扩展性瓶颈：随任务数增多，架构扩展类方法的参数量线性增长，内存压力显著
• 评测体系不统一：学术界对任务边界（task boundary）是否已知、旧数据是否可访问等设定存在较大差异，导致论文结果难以横向比较
• 误区：认为持续学习等同于「不断 Fine-tuning」——直接持续微调而不采取任何遗忘防护措施，通常会导致严重遗忘
• 现实场景复杂度：学术基准（如 Split-CIFAR、Permuted-MNIST）与真实部署场景差距较大，模型在真实分布漂移下表现往往不如预期

持续学习从认知科学概念逐步演变为深度学习的核心研究方向。

• 1989 年：McCloskey 与 Cohen 在认知科学研究中首次描述神经网络的「灾难性遗忘」现象
• 1995 年：Thrun 提出终身机器学习（Lifelong Machine Learning）框架，将持续学习纳入 AI 系统设计
• 2013–2016 年：深度学习崛起，灾难性遗忘问题在 DNNs 上被广泛复现，引发大量研究关注
• 2017 年：Kirkpatrick 等（DeepMind）提出 EWC，发表于 PNAS，成为正则化类方法的标志性工作
• 2017–2019 年：Progressive Neural Networks、PackNet、GEM 等方法相继提出，三大类方法体系逐步成型
• 2020 年至今：持续学习与大语言模型（LLM）结合，用于知识更新、领域适应及联邦学习场景；Continual Pre-training 成为 LLM 迭代的重要范式