.png){kind=icon}
返回
AiRs: Adapter in Remote Sensing for Parameter-Efficient Transfer Learning
.png){kind=icon}
PRE
AI
DOI：10.1109/TGRS.2024.3351889.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
遥感正在步入基础模型的时代，在该时代，微调范式被广泛采用，以将预训练的基础模型的深刻知识转移到下游任务中。但是，随着基础模型越来越大，完全微调方法在训练和存储方面将变得效率低下。最近，许多深度学习研究提出了各种参数有效的微调 (PEFT) 方法，这些方法在一些可训练参数的情况下表现良好。但是，它们中的大多数都集中在微调通用基础模型上，而没有考虑遥感的特殊属性。在本文中，我们提出了一种遥感中的适配器 (AiRs)，以通过引入适配器-调整框架来为遥感下游任务微调大型基础模型。具体来说，我们从两个方面构建AiRs: 更具表现力的适应模块和更有效的集成策略。专门的适应模块应用于AiRs中的不同功能层，它们对遥感图像的归纳偏差进行编码，并增强地理的语义概念。此外，AiRs在具有残余连接的可训练模块之间建立路径，这降低了训练难度并提高了性能。我们对对象检测，语义分割和场景分类任务进行了广泛的实验。通过仅训练预训练的主干的4.4% 参数，AiRs在所有实验数据集上超越了以前的最先进 (SOTA) PEFT竞争对手，并且在十个数据集中的六个数据集上表现出色。
Keyword:
Task analysis
Atmospheric modeling
Computational modeling
Adaptation models
Remote sensing
Sensors
Training
Foundation model
parameter-efficient transfer learning
remote sensing
期刊
IF:
8.6
论文数:
2.1W
被引数:
10.7W
机构
引用论文
分享收藏Inflexibility of mental planning: A characteristic disorder with prefrontal lobe lesions?心理计划的僵化: 前额叶病变的特征性障碍？
PREAI
分享收藏Object Detection in High Resolution Remote Sensing Imagery Based on Convolutional Neural Networks With Suitable Object Scale Features基于合适目标尺度特征的卷积神经网络高分辨率遥感影像目标检测
PREAI
分享收藏Enhancing Multiscale Representations With Transformer for Remote Sensing Image Semantic Segmentation利用Transformer增强多尺度表示的遥感图像语义分割
PREAI
分享收藏Revealing influencing factors on global waste distribution via deep-learning based dumpsite detection from satellite imagery.png)
NATURE COMMUNICATIONS
OAAI
NATURE COMMUNICATIONSIF15.7
OAAI分享收藏分享收藏
查看更多内容