Progressive Gradient-Guided Self-Distillation Keypoint Detection

Zhaoyang Li

doi:10.1109/TMM.2025.3607731

Progressive Gradient-Guided Self-Distillation Keypoint Detection

2025-01-01

0

PRE

AI

DOI：10.1109/TMM.2025.3607731

原文链接

原文求助

摘要

En 中文

随着自动驾驶和3D重建的日益普及，关键点检测作为视觉定位的关键环节，已成为当前研究的热点。然而，现有的关键点检测方法很少关注样本难度的差异，并且缺乏渐进式学习机制，这通常导致模型对简单样本过拟合，对复杂样本欠拟合，限制了模型的整体性能。为解决这些问题，我们提出了一种新颖的渐进式梯度引导自蒸馏方法（PG²SD）用于关键点检测，该方法具备自进化学习能力。具体而言，我们提出了一种渐进式梯度约束策略（PGCS），能够动态调整不同样本的梯度贡献，使模型能够适应训练过程中不断变化的学习能力。在此基础上，我们提出了一种梯度引导自蒸馏策略（G²SDS），其与PGCS无缝集成，以缓解训练初期硬样本特征表示不足的问题。我们进一步设计了一种新型损失函数，实现PGCS与G²SDS之间的动态协作，允许G²SDS通过PGCS自适应地调整自蒸馏参数。在多个基准数据集上的实验结果表明，我们的方法在图像匹配、视觉定位和3D重建任务上实现了最先进（state-of-the-art）的性能，且无需设计专用网络，表明其具有广泛的应用前景。

Keyword:

Gradient-guided self-distillation

gradient separation

keypoint detection

progressive gradient

Progressive Gradient-Guided Self-Distillation Keypoint Detection

摘要

期刊

机构