arrow
返回

A Multimodal Federated Learning Framework for Remote Sensing Image Classification

delete2025-01-01
delete0
delete
OA
AI
B
Barış Büyüktaş
G
Gencer Sumbül
B
Begüm Demir
DOI:10.1109/TGRS.2025.3603859delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
联邦学习(FL)能够在不共享客户端本地数据的情况下,实现跨去中心化数据档案(即客户端)的深度神经网络协同训练。现有的大多数FL方法假设所有客户端分布的数据关联相同的模态。然而,不同客户端中存在的遥感(RS)图像可能与多样的数据模态相关联。多模态(MM)RS数据的联合使用可以显著提升分类性能。为有效利用去中心化且未共享的MM RS数据,本文提出了一种新颖的MM FL框架,用于RS图像分类问题。所提出的框架包含三个模块:1)多模态融合(MF);2)特征白化(FW);3)互信息最大化(MIM)。MF模块采用迭代模型平均来促进学习,而无需访问客户端上的MM训练数据。FW模块旨在通过跨客户端对齐数据分布来解决训练数据异构性的局限性。MIM模块旨在通过最大化不同模态图像之间的相似性来建模互信息。在实验分析中,我们重点关注RS中的多标签分类和基于像素的分类任务。使用两个基准档案获得的结果表明,与文献中的最新算法相比,所提出的框架是有效的。所提出框架的代码公开可获取于https://git.tu-berlin.de/rsim/multi-modal-FL。
Keyword:
Federated learning (FL)
multimodal (MM) image classification
remote sensing (RS)

期刊

IEEE Transactions on Geoscience and Remote Sensing 封面图
IEEE Transactions on Geoscience and Remote Sensing
IF:
8.6
论文数:
2.1W
被引数:
10.7W

机构

T
Technische Universität Berlin
学者数:
566
论文数: 302
被引数: 2.0W
É
école polytechnique fédérale de lausanne (epfl)
学者数:
489
论文数: 195
被引数: 1
引用论文

引用论文

err分享
err收藏
err分享
err收藏
Privacy and Robustness in Federated Learning: Attacks and Defenses联邦学习中的隐私和鲁棒性: 攻击和防御
err2024-07-01
err123
errOAAI
errLyu, Lingjuan; Yu, Han; Ma, Xingjun; Chen, Chen; Sun, Lichao; Zhao, Jun; Yang, Qiang; Yu, Philip S.
err分享
err收藏
Free lunch for federated remote sensing target fine-grained classification: A parameter-efficient framework
err2024-06-01
err2
errOAAI
errChen, Shengchao; Shu, Ting; Zhao, Huan; Wang, Jiahao; Ren, Sufen; Yang, Lina
err分享
err收藏
学者 查看更多内容