arrow
返回

Adaptive Knowledge Distillation for Lightweight Remote Sensing Object Detectors Optimizing

delete2022-01-01
delete43
PRE
AI
Y
Yiran Yang
X
Xian Sun *
W
Wenhui Diao
H
Hao Li
Y
Youming Wu
李
李新明 (Xinming Li)
K
Kun Fu
DOI:10.1109/TGRS.2022.3175213delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
轻型目标检测器目前在遥感领域越来越受欢迎。一般来说,与传统的深度模型相比,轻量级探测器很难达到有竞争力的性能,而知识蒸馏 (KD) 是解决这一问题的一种有前途的训练方法。由于遥感图像背景比较复杂,目标大小变化很大,直接应用现有的KD方法会产生大量噪声,影响训练性能。为了解决上述问题,我们提出了一种自适应强化监督蒸馏 (ARSD) 框架,以提高轻量级模型的检测能力。首先,我们提出了一种用于传递特征知识的多尺度核心特征模仿 (MCFI) 模块,该模块可以自适应地选择对象的多尺度核心特征进行蒸馏,并通过面积加权策略更多地关注小对象的特征。此外,还设计了严格监督回归蒸馏 (SSRD) 模块,以选择最佳的回归结果进行蒸馏,这便于学生有效地模仿教师网络的更精确的回归输出。在大规模数据集上进行大量实验,用于航空图像中的目标检测 (DOTA),光学遥感图像中的目标检测 (DIOR),西北工业大学超高分辨率10级 (NWPU VHR) 数据集证明ARSD优于现有的蒸馏最先进 (SOTA) 方法。此外,使用我们的方法训练的轻量级模型的性能超越了其他经典的重型和轻量级检测器,这有利于轻量级模型的开发。
Keyword:
Detectors
Remote sensing
Feature extraction
Object detection
Task analysis
Adaptation models
Knowledge engineering
Adaptive knowledge distillation (KD)
lightweight model
object detection
remote sensing imagery

期刊

IEEE Transactions on Geoscience and Remote Sensing 封面图
IEEE Transactions on Geoscience and Remote Sensing
IF:
8.6
论文数:
2.2W
被引数:
10.7W

机构

C
chinese academy of sciences
学者数:
56.7W
论文数: 45.0W
被引数: 704
引用论文

引用论文

Blastococcus capsensis sp. nov., isolated from an archaeological Roman pool and emended description of the genus Blastococcus, B. aggregatus, B. saxobsidens, B. jejuensis and B. endophyticus
err2016-11-01
err0
errOAAI
errKarima Hezbri; Moussa Louati; Imen Nouioui; Maher Gtari; Manfred Rohde; Cathrin Spröer; Peter Schumann; Hans-Peter Klenk; Faten Ghodhbane-Gtari; Maria del Carmen Montero-Calasanz
err分享
err收藏
err分享
err收藏
err分享
err收藏
Flow Cytometry Protocols for Surface and Intracellular Antigen Analyses of Neural Cell Types
err2014-12-18
err0
errOAAI
errVishal Menon; Ria Thomas; Arun R. Ghale; Christina Reinhard; Jan Pruszak
err分享
err收藏
Emergent Complications of Rheumatoid Arthritis
err2018-11-01
err0
errOAAI
errSamantha Berman; Joshua Bucher; Alex Koyfman; Brit J. Long
err分享
err收藏
err分享
err收藏
学者 查看更多内容