返回
Efficient Decentralized Federated Generative Adversarial Network Learning Over Multi-Source Heterogeneous Data
DOI:10.1109/tnse.2026.3693874.png)
摘要
En 中文
我们提出了一种用于多源异构数据的去中心化联邦生成对抗网络(GAN)学习框架DHetGAN。与标准的非GAN模型去中心化联邦学习不同,DHetGAN要求每个节点通过其判别器和生成器的对抗训练解决一个局部极小极大GAN博弈,然后以去中心化方式平均以达成共识。为解决节点间的数据异构性,我们开发了一种基于GAN内在的聚合策略,该策略使用一种隐私保护的发散代理来量化节点间分布发散性并分配平均权重。该代理由每个节点本地估计——无需泄露敏感数据——从由邻域级最大判别器置信度校准的耦合判别器-生成器值中得出,这是针对极小极大GAN博弈特有的。为减少通信开销,我们提出了一种针对DHet-GAN的压缩方法。我们从理论上分析了我们框架的收敛保证,展示了节点间强耦合、梯度幅度收缩以及判别器和生成器统一的共识动态。我们还确立了DHetGAN完全模式覆盖的充分条件,并确定了该条件成立的实际训练设置。广泛的实验和与基准的比较表明,DHetGAN在生成性能、稳定性、模式覆盖多样性及快速收敛方面表现优异,同时显著减少通信开销,即使在极端非独立同分布数据异构性下也是如此。
Keyword:
Modeling
Generative adversarial networks
Training
Generators
Convergence
Distance measurement
TV
Learning (artificial intelligence)
Algorithms
Joining processes
Communication efficiency
convergence
data heterogeneity
decentralization
edge computing
federated learning
generative adversarial networks
Internet of Things
mode collapse
mode coverage
model compression
non-i.i.d. data distributions
期刊
I
IF:
7.9
论文数:
2.6K
被引数:
10.0K
机构
引用论文
暂无论文信息

