Efficient Decentralized Modular Continual Learning via Aligned Modularization and Selective Collaboration

Mingze Li

doi:10.1109/tmc.2026.3726945

Efficient Decentralized Modular Continual Learning via Aligned Modularization and Selective Collaboration

2026-08-24

0

PRE

AI

DOI：10.1109/tmc.2026.3726945

原文链接

原文求助

摘要

En 中文

随着物联网与人工智能的深度融合，终端设备（EDs）必须在计算和通信资源有限、任务持续演化、数据高度异构的环境中实现长期自主学习。现有的单设备持续学习（CL）方法受限于ED的计算能力、存储容量和本地数据，难以在资源受限环境下保证模型的可扩展性和学习效率。同时，分布式CL方法面临异步任务到达、设备和数据异构性以及高通信开销等新的系统性挑战。为解决这些问题，本文提出了一种去中心化模块化持续学习（DeModCL）框架。它通过跨ED构建可复用模块，实现模块级协作学习而无需中心协调。在单设备层面，DeModCL结合分布式漂移检测与历史记忆轨迹建模，引入基于记忆轨迹的动态路由（MTDR），在任务到达时自适应地重新配置模块架构和路由。在跨设备层面，我们通过任务锚点引入模块能力签名（MSA），使EDs能够识别相关且可共享的模块。在此基础上，设计了协作模块决策（CMD）机制，在平衡学习性能增益与通信开销的同时，实现高效且有选择的模块共享。最后，在视觉、基于传感器的活动识别和真实世界连续移动感知数据集上进行了实验，评估所提方法在异构CL工作负载下的性能。在CIFAR-100、Tiny-ImageNet、CUB-200和UCI-HAR的系统效率基准测试中，DeModCL相较于代表性分布式CL基线，效率提升了70.53%–377.82%（效率通过系统持续学习完成时间内的平均准确率衡量）。

Keyword:

Decentralized continual learning

modular deep learning

edge environments

module collaboration

Efficient Decentralized Modular Continual Learning via Aligned Modularization and Selective Collaboration

摘要

期刊

机构

引用论文