返回
Adaptive Knowledge Distillation for Lightweight Remote Sensing Object Detectors Optimizing
DOI:10.1109/TGRS.2022.3175213.png)
摘要
En 中文
轻型目标检测器目前在遥感领域越来越受欢迎。一般来说,与传统的深度模型相比,轻量级探测器很难达到有竞争力的性能,而知识蒸馏 (KD) 是解决这一问题的一种有前途的训练方法。由于遥感图像背景比较复杂,目标大小变化很大,直接应用现有的KD方法会产生大量噪声,影响训练性能。为了解决上述问题,我们提出了一种自适应强化监督蒸馏 (ARSD) 框架,以提高轻量级模型的检测能力。首先,我们提出了一种用于传递特征知识的多尺度核心特征模仿 (MCFI) 模块,该模块可以自适应地选择对象的多尺度核心特征进行蒸馏,并通过面积加权策略更多地关注小对象的特征。此外,还设计了严格监督回归蒸馏 (SSRD) 模块,以选择最佳的回归结果进行蒸馏,这便于学生有效地模仿教师网络的更精确的回归输出。在大规模数据集上进行大量实验,用于航空图像中的目标检测 (DOTA),光学遥感图像中的目标检测 (DIOR),西北工业大学超高分辨率10级 (NWPU VHR) 数据集证明ARSD优于现有的蒸馏最先进 (SOTA) 方法。此外,使用我们的方法训练的轻量级模型的性能超越了其他经典的重型和轻量级检测器,这有利于轻量级模型的开发。
Keyword:
Detectors
Remote sensing
Feature extraction
Object detection
Task analysis
Adaptation models
Knowledge engineering
Adaptive knowledge distillation (KD)
lightweight model
object detection
remote sensing imagery
期刊
IF:
8.6
论文数:
2.2W
被引数:
10.7W
机构
引用论文
Comparative study of layer by layer assembled multilayer films based on graphene oxide and reduced graphene oxide on flexible polyurethane foam: flame retardant and smoke suppression properties
RSC Advances
IF0

