返回
Knowledge Distillation-Based Anomaly Detection via Adaptive Discrepancy Optimization
DOI:10.1109/TII.2025.3574540.png)
摘要
En 中文
知识蒸馏已作为一种主要的异常检测解决方案出现,利用教师-学生(T-S)网络之间的特征差异来定位异常。然而,现有方法存在特征差异模糊的问题,这由于两个主要挑战而阻碍了有效的异常检测:1)过度泛化,即学生网络在异常区域过度模仿教师特征;2)T-S网络在正常区域中的语义偏差。为解决这些问题,我们提出了一个自适应差异优化(Ado)模块。该模块通过可学习的特征偏移自适应地校准特征差异,在异常区域减少过度泛化,并在正常区域选择性对齐语义特征。该通用模块可无缝集成到各种基于蒸馏的方法中。实验结果表明,该Ado模块在两个常用数据集上的11种不同知识蒸馏框架中显著提升了性能。特别地,当与Ado模块集成时,RD4AD在VisA数据集的像素级PRO上实现了22%的相对提升。此外,一个真实世界的键盘检测应用进一步验证了Ado模块的有效性。
Keyword:
Anomaly detection
defect detection
knowledge distillation
overgeneralization problem
semantic bias
期刊
IF:
9.9
论文数:
8.6K
被引数:
6.0W

