[Paper] LibContinual：面向真实持续学习的综合库

Source: arXiv - 2512.22029v1

概述

持续学习（CL）承诺 AI 系统能够在不抹去已有知识的情况下持续学习新任务，但在实践中该领域面临代码库碎片化和评估协议不一致的问题。全新的 LibContinual 库通过提供一个统一、精心构建的平台来解决这些混乱，该平台集成了 19 种最先进的 CL 算法，标准化实验流程，并迫使研究者在诸如在线数据流、有限内存和任务语义异构等真实约束条件下进行测试。

关键贡献

• 统一、可直接用于生产的库：实现了 19 种连续学习（CL）算法，涵盖五大方法族（正则化、回放、参数隔离、架构增长以及混合方法），并提供统一的 API 与依赖集合。
• 模块化架构：高内聚、低耦合的设计，使得在不破坏现有代码的前提下，轻松插入新方法、数据集或评估指标。
• 对隐藏假设的关键审查：作者揭示了大多数论文所依赖的三项“隐式”假设——离线数据访问、无限回放内存以及任务内部语义同质性，并展示这些假设如何夸大报告的性能。
• 真实的评估协议：提出 (1) 严格的在线学习（数据仅到达一次，不能重复访问），(2) 统一的内存预算协议，对整个生命周期的回放存储总量设上限，(3) 类别随机化基准，将语义上不相关的任务混合在一起。
• 开源且可复现：完整的代码、文档以及预配置的 Docker 镜像已发布，降低了学术界和工业界团队采用真实 CL 测试的门槛。

方法论

LibContinual 基于 pipeline abstraction 构建， 将四个核心组件分离：

1. Data Loader – 以单遍（在线模式）或批处理模式流式读取数据，用于基线比较。
2. Model Wrapper – 封装任意 PyTorch 模型，提供正则化项、参数掩码或 replay buffer 的钩子。
3. Trainer – 协调学习循环，处理任务边界、记忆更新以及指标记录。
4. Evaluator – 在所选预算约束下计算持续学习指标（平均准确率、遗忘率、前向/后向迁移）。

作者随后进行三组系统实验：

• Offline vs. Online：比较每种算法在数据可重复使用（传统设置）与严格单遍流式两种情形下的表现。
• Unlimited vs. Fixed Replay Memory：强制设置全局记忆上限（例如 200 MiB），所有基于 replay 的方法必须共享该上限，而不是各自拥有无限缓冲区。
• Semantic Homogeneity vs. Randomized Categories：在不相关的类别之间随机打乱任务标签（例如混合动物、车辆和医学图像类别），以检验对语义漂移的鲁棒性。

所有实验均使用相同的超参数（学习率、批大小、优化器），以确保公平的逐项对比。

结果与发现

关键要点

• 重放方法在内存预算受限时表现急剧下降；它们高度依赖存储大量样本。
• 正则化和隔离策略对在线约束更具韧性，但仍会出现显著的准确率损失。
• 结合适度重放与结构技巧的混合方法（如 DER++）在实际限制下实现了最佳平衡。
• 在所有设置中，平均遗忘率显著飙升，进一步证明许多已发表的数值是隐藏假设导致的乐观结果。

实际影响

• 构建边缘 AI 的产品团队（例如，设备端助理、机器人）现在可以在与实际部署时相同的内存上限下基准测试 CL 算法，避免部署后出现代价高昂的“意外”性能下降。
• MLOps 流水线 可以将 LibContinual 集成为插件测试阶段，自动验证新持续学习模型在提升前是否满足在线学习和内存预算的标准。
• 框架开发者（例如 PyTorch Lightning、TensorFlow）获得了一个用于标准化 CL API 的参考实现，未来可能发展为全社区的扩展。
• 研究到产品的转化 速度更快：团队可以原型化一种 CL 方法，替换为 19 种内置算法中的任意一种，即时观察其在真实约束下的表现，从而在早期就为设计决策提供依据。

限制与未来工作

• 任务范围：该基准目前专注于图像分类（CIFAR‑100、TinyImageNet）。将来会扩展到 NLP、强化学习或多模态流。
• 硬件多样性：实验仅在单一 GPU 类别上进行；对异构边缘设备（仅 CPU、低功耗 ASIC）的影响尚未量化。
• 内存预算粒度：单一全局上限是有用的抽象，但实际系统可能拥有分层存储（RAM 与 flash），需要更细致的预算策略。
• 算法覆盖：虽然已有 19 种方法，但元持续学习或神经形态脉冲网络等新兴范式尚未集成。

作者计划扩大数据集覆盖范围，添加硬件感知预算的插件支持，并开放社区排行榜，以使库保持与实际部署需求的一致性。

作者

• Wenbin Li
• Shangge Liu
• Borui Kang
• Yiyang Chen
• KaXuan Lew
• Yang Chen
• Yinghuan Shi
• Lei Wang
• Yang Gao
• Jiebo Luo

论文信息

• arXiv ID: 2512.22029v1
• 分类: cs.LG, cs.AI
• 出版日期: 2025年12月26日
• PDF: Download PDF