Dual Relation Knowledge Distillation for Object Detection

doi:10.24963/ijcai.2023/142

Dual Relation Knowledge Distillation for Object Detection

2023-08-01

0

OA

AI

DOI：10.24963/ijcai.2023/142

原文链接

原文求助

摘要

En 中文

知识蒸馏是一种有效的模型压缩方法。然而，将知识蒸馏应用于检测任务仍然是一个具有挑战性的课题。导致检测任务蒸馏性能不佳的关键问题有两点：一是前景与背景特征之间的严重不平衡，二是小物体缺乏足够的特征表示。为解决上述问题，我们提出了一种新的蒸馏方法，命名为双关系知识蒸馏（DRKD），包括像素级关系蒸馏和实例级关系蒸馏。像素级关系蒸馏将像素级特征嵌入图空间，并应用图卷积来捕捉全局像素关系。通过蒸馏全局像素关系，学生检测器可以学习前景与背景特征之间的关系，并避免因特征不平衡问题而直接蒸馏特征的困难。此外，我们发现实例级关系为小物体补充了独立特征之外的有价值知识。因此，设计了实例级关系蒸馏，通过计算不同实例之间的相似度来获得关系矩阵。更重要的是，设计了一个关系滤波模块以突出有价值的实例关系。所提出的双关系知识蒸馏具有通用性，可以轻松应用于一阶段和两阶段检测器。我们的方法实现了最先进的效果，将基于ResNet50的Faster R-CNN的mAP从38.4%提升至41.6%，并将基于ResNet50的RetinaNet的mAP从37.4%提升至40.3%（在COCO 2017数据集上）。

Dual Relation Knowledge Distillation for Object Detection

摘要

期刊

机构

引用论文