Enhancing Indoor Occupancy Prediction via Sparse Query-Based Multi-Level Consistent Knowledge Distillation

doi:10.1109/LRA.2025.3615532

Enhancing Indoor Occupancy Prediction via Sparse Query-Based Multi-Level Consistent Knowledge Distillation

0

PRE

AI

DOI：10.1109/LRA.2025.3615532

原文链接

原文求助

摘要

En 中文

occupancy预测为机器人学提供了关键的几何和语义理解，但面临着效率与精度的权衡。当前密集方法在空体素上存在计算浪费，而基于稀疏查询的方法在多样化和复杂的室内场景中缺乏鲁棒性。在本文中，我们提出了DiScene，一种新颖的基于稀疏查询的框架，利用多级知识蒸馏实现高效且鲁棒的occupancy预测。具体而言，我们的方法包含两项关键创新：(1) 一种多级一致性知识蒸馏策略，通过四级的协同对齐将大型教师模型中的层次表示转移到轻量级学生模型中，包括编码器级特征对齐、查询级特征匹配、先验级空间引导和锚点级高置信度知识转移；(2) 一种教师引导的初始化策略，采用优化的参数预热加速模型收敛。在Occ-Scannet基准上的验证表明，DiScene在不使用深度先验的情况下达到23.2 FPS，优于我们的基准方法OPUS 36.1%，甚至优于深度增强版本OPUS†。在集成深度信息后，DiScene†取得了新的SOTA性能，在推理速度上比EmbodiedOcc快1.62倍的同时，精度提高了3.7%。此外，在Occ3D-nuScenes基准和真实场景中的实验进一步证明了我们方法在各种环境中的适用性。

Keyword:

3D occupancy prediction

distillation learning

scene understanding

Enhancing Indoor Occupancy Prediction via Sparse Query-Based Multi-Level Consistent Knowledge Distillation

摘要

期刊

机构

引用论文