arrow
返回

Module-Pruning-Based Neural Architectural Search for Remote Sensing Image Captioning

delete2025-01-01
delete0
PRE
AI
Y
Yogendra Rao Musunuri
C
Changwon Kim
O
Oh‐Seol Kwon
Sun-Yuan Kung 封面图
Sun-Yuan Kung (Sun‐Yuan Kung)
DOI:10.1109/LGRS.2025.3593475delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
遥感图像字幕生成(RSIC)已因其通过文本描述增强航空影像可解释性而引起广泛关注。传统方法采用卷积神经网络(CNN)进行视觉特征提取,并与循环神经网络(RNN)或Transformer结合用于字幕生成。然而,这些架构存在高复杂度和计算成本问题。尽管通过网络剪枝的神经架构搜索(NAS)已得到广泛研究,但针对RSIC系统的模块化剪枝仍鲜有探索。我们提出了一种新颖的专用解码器剪枝方法——一种面向端到端编码器-解码器架构适配的模块化剪枝方法。该方法包含两项关键创新:1)对预训练的ResNet编码器和Transformer编码器-解码器组件进行结构化剪枝;2)采用基于交叉熵的字幕匹配策略替代解码器最终层的常规预测训练。所提方法能够在不牺牲性能的前提下,同时提升推理效率并减少存储需求。经RSICD数据集上的CIDEr、ROUGE、METEOR、双语评估替代(BLEU)和Sm指标评估,该方法实现了42.8%的模型尺寸缩减,同时提高了准确率,在高效RSIC领域建立了新的基准。
Keyword:
Model complexity
module-pruning
multimodal
neural architecture search (NAS)
remote sensing image captioning (RSIC)
transformer

期刊

IEEE Geoscience and Remote Sensing Magazine 封面图
IEEE Geoscience and Remote Sensing Magazine
IF:
16.4
论文数:
1.0W
被引数:
5.1K

机构

P
Princeton University
学者数:
2.1W
论文数: 2.3W
被引数: 5.1W
C
Changwon National University
学者数:
2.0K
论文数: 1.9K
被引数: 2
引用论文

引用论文

NASH: A Simple Unified Framework of Structured Pruning for Accelerating Encoder-Decoder Language Models
err
IF0
err2023-01-01
err0
PREAI
errJongwoo Ko; Seungjoon Park; Yujin Kim; Sumyeong Ahn; Du-Seong Chang; Euijai Ahn; Se-Young Yun
err分享
err收藏
A Joint-Training Two-Stage Method For Remote Sensing Image Captioning
err2022-01-01
err20
errOAAI
errYe, Xiutiao; Wang, Shuang; Gu, Yu; Wang, Jihui; Wang, Ruixuan; Hou, Biao; Giunchiglia, Fausto; Jiao, Licheng
err分享
err收藏
err分享
err收藏
A ResNet-101 deep learning framework induced transfer learning strategy for moving object detection
err2024-06-01
err4
PREAI
errPanigrahi, Upasana; Sahoo, Prabodh Kumar; Panda, Manoj Kumar; Panda, Ganapati
err分享
err收藏
err分享
err收藏
学者 查看更多内容