arrow
返回

Adaptive Scale-Aware Semantic Memory Network for Remote Sensing Image Captioning

delete2025-01-01
delete0
PRE
AI
C
Cheng Zhang
任
任仲乐 (Zhongle Ren)
B
Biao Hou
C
Changhui Xu
J
Jianhua Meng
W
Weibin Li
焦李成 封面图
焦李成 (Licheng Jiao)
DOI:10.1109/TGRS.2025.3636596delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
遥感图像字幕生成在视觉图像与自然语言之间的转换仍是遥感学界的一大长期挑战。由于遥感图像覆盖范围广且信息量大,现有方法难以有效利用不同尺度下样本中关于对象及其属性的相关语义信息来生成描述。为解决这些问题,本文提出了一种新颖的自适应尺度感知语义记忆网络(ASSMN)用于遥感图像字幕生成。首先,为充分提取遥感图像中的语义信息,构建了多级特征增强以改进从对比语言-图像预训练(CLIP)预训练模型中提取的特征表示。随后,引入尺度感知注意力聚合器(SAA)以进一步将增强的多尺度图像特征整合到遥感图像的高层语义中。然后,为充分利用联合观测样本的语义信息,设计了语义记忆强化(SMR)来通过从其他训练样本获取的相关语义来强化当前场景的语义表示。最后,执行字幕解码器以生成包含准确对象和属性的全面场景字幕。在实验中,评估了所提ASSMN在三个遥感图像字幕生成数据集上的性能,并与精心设计的基线方法及最先进方法进行了比较,并通过消融所提各组件的作用来证明所提方法的优越性。代码将发布于https://github.com/zcsisiyao/ASSMN。
Keyword:
Contrastive language image pretrain
image captioning
prototype memory
remote sensing

期刊

IEEE Transactions on Geoscience and Remote Sensing 封面图
IEEE Transactions on Geoscience and Remote Sensing
IF:
8.6
论文数:
2.2W
被引数:
10.7W

机构

X
Xidian University
学者数:
2.4W
论文数: 1.9W
被引数: 9.7K
引用论文

引用论文

BLEU布卢
err2001-01-01
err0
errOAAI
errKishore Papineni; Salim Roukos; Todd Ward; Wei-Jing Zhu
err分享
err收藏
Dual-level Collaborative Transformer for Image Captioning
err2021-05-18
err0
errOAAI
errYunpeng Luo; Jiayi Ji; Xiaoshuai Sun; Liujuan Cao; Yongjian Wu; Feiyue Huang; Chia-Wen Lin; Rongrong Ji
err分享
err收藏
Multi-Level Policy and Reward-Based Deep Reinforcement Learning Framework for Image Captioning
err2020-05-01
err78
PREAI
errXu, Ning; Zhang, Hanwang; Liu, An-An; Nie, Weizhi; Su, Yuting; Nie, Jie; Zhang, Yongdong
err分享
err收藏
学者 查看更多内容