时间序列预测中持续学习的可解释性挑战：从模型归因到自适应采样
深度学习模型在时间序列预测中展现出强大潜力，但部署于环境监测等真实场景时，非平稳动态与模型可解释性不足成为主要瓶颈。近日，来自法国多所研究机构（RFAI、BDTLN、LIFAT）的团队在一项新研究中，将可解释性作为理解持续学习（Continual Learning）机制的核心工具，系统分析了经验回放（Experience Replay）策略下神经预测模型的行为变化。该工作已被 EDBT/ICDT 2026 联合会议接收。
研究背景与动机
现实环境中的时间序列（如地下水位数据）常呈现非平稳性——分布随时间漂移、出现 regime shift（机制转换），传统静态模型难以适应。持续学习通过让模型在流式数据上增量更新来应对这一挑战，但“模型为何遗忘”“哪些数据对适应最有用”等问题仍缺乏透明解释。研究者认为，可解释性不仅能诊断预测错误，更能揭示持续学习本身的动态规律。
方法与实验设计
团队选取了三种代表性神经架构：PatchMixer、PatchTST 和 DLinear，并为其配备基于注意力机制的采样策略（attention-based sampling）以实现选择性经验回放。在可解释性方法上，他们采用了两种主流技术：
- Attention Rollout：追踪注意力权重传播路径，理解模型关注的时间步；
- Grad-CAM：基于梯度的归因方法，定位对预测贡献最大的输入区域。
实验数据为真实的地下水位（piezometric）时间序列，包含异质性模式和多次机制转换，非常考验模型的持续适应能力。
关键发现
- 归因模式随时间演化：随着新数据流入，Grad-CAM 热图显示模型关注的输入区域发生显著偏移——从历史模式逐渐转向近期异常值，说明模型在主动调整“注意力焦点”。
- 采样策略的可解释性：Attention-based 采样并非均匀选择回放样本，而是倾向于保留那些在归因图上引起高梯度响应的“困难样本”，这恰好与主动学习（active learning）的直觉一致。
- 性能与可解释性的权衡：虽然持续学习能维持预测精度，但归因稳定性的下降（即模型解释的波动）可能成为新问题——尤其当数据分布突变时，梯度归因会出现剧烈跳跃，影响用户信任。
行业意义与挑战
该研究首次将可解释性从“事后解释”提升为持续学习框架的元分析工具。传统上，可解释性只用于回答“为什么预测这个值”，而现在它能帮助回答“为什么选择这些数据来更新模型”。这为自适应预测系统的调试与审计提供了新路径。
然而，挑战依然存在：
- 计算开销：每次更新都计算 Attention Rollout 或 Grad-CAM 在实时场景中可能过于昂贵；
- 归因方法的选择：不同归因方法（如梯度 vs. 扰动）可能给出不一致的结论，如何选择或融合仍需探索；
- 从观察到干预：当前研究停留在“从归因理解行为”，未来需要验证能否利用归因信号主动指导采样，形成闭环优化。
小结
这项工作为时间序列持续学习领域提供了一个新视角：可解释性不仅是模型透明的保障，更是理解学习动态的窗口。随着环境监测、金融预测等非平稳场景的需求增长，将可解释性深度嵌入持续学习流程，或将成为下一代自适应预测系统的标配。