SUM：面向联邦类增量学习的时空适配向量统一几何手术
概述
联邦类增量学习（Federated Class Incremental Learning, FCIL）旨在结合联邦学习（FL）与持续学习（CL），使分布式智能系统能够在数据孤岛间协作，并持续适应新任务。然而，这一组合引入了两种相互耦合的干扰源：来自异构客户端的空间干扰和来自顺序任务的时间干扰，共同导致时空灾难性遗忘（ST-CF）。现有方法通常采用分离机制分别处理空间和时间干扰，往往带来额外的客户端计算或通信开销，且在聚合过程中未对更新之间的方向交互进行有效调控。
核心方法
在本文中，作者将FCIL重新解释为一个统一的多任务学习问题，其中客户端和任务更新均表示为共享参数空间中的适配向量。基于这一视角，他们提出了SUM（Unified Geometric Surgery on Spatio-Temporal Adaptation Vectors），一个纯服务器端框架，在聚合过程中对适配向量进行几何手术。具体而言：
- 空间SUM：在每个通信轮次内缓解客户端级别的干扰；
- 因果在线时间SUM：随时间推移消除跨任务干扰，且无需额外的客户端计算、通信或内存开销，仅依赖标准联邦训练流程。
实验结果
在多种视觉和语言基准测试上，SUM相比现有FCIL方法取得了最高22%的性能提升，同时保持对不可靠客户端的鲁棒性并维持计算效率。该论文已被ECCV 2026接收。
技术亮点
SUM的核心创新在于将联邦聚合视为一个几何操作问题，通过调整适配向量的方向和幅度来抑制干扰，而不是简单地对参数求平均。这种方法不仅简洁高效，而且完全在服务器端执行，避免了增加客户端的负担，这对于资源受限的边缘设备尤为重要。
行业意义
随着AI系统越来越多地部署在分布式和动态环境中，FCIL成为解决数据隐私和模型持续演进的关键技术。SUM提供了一种轻量级且有效的解决方案，有望推动联邦学习在自动驾驶、个性化推荐、医疗诊断等领域的实际应用。
小结
SUM通过统一几何手术有效解决了FCIL中的时空灾难性遗忘问题，在性能、鲁棒性和效率之间取得了良好平衡。这一工作为未来分布式持续学习系统的设计提供了新的思路。