BinaryAD: Efficient image anomaly detection via binarized representations

doi:10.1016/j.patcog.2026.114280

BinaryAD: Efficient image anomaly detection via binarized representations

2026-07-01

0

PRE

AI

DOI：10.1016/j.patcog.2026.114280

原文链接

原文求助

摘要

En 中文

随着基于Transformer的图像异常检测模型的复杂性不断增长，在资源受限的边缘设备上部署这些模型面临着重大挑战。尽管剪枝、知识蒸馏和低位量化在分类网络中取得了显著成功，但将全模型二值化或统一低位量化直接应用于基于Transformer的异常检测器往往会导致像素级异常定位性能严重下降。这项工作的关键观察是，基于Transformer的异常检测模型中常用的原型提取和重建目标对注意力和MLP模块中的量化噪声高度敏感。在本文中，我们提出了BinaryAD，一种模块选择二值化框架，该框架在Transformer解码器中学习紧凑的二值化表示，以实现轻量级且准确的异常检测模型。具体而言，BinaryAD有选择地对Transformer解码器中最耗计算量的组件（即自注意力和MLP层）进行二值化，同时保留全精度特征提取器以保持足够的表示能力。我们在代表性的INP和Dinomaly模型上实现了BinaryAD，并在标准异常检测基准上进行了大量实验。实验结果表明，在跨数据集的情况下，BinaryAD可将模型大小最多减少6.53倍，FLOPs最多减少7.99倍。更重要的是，在最优配置下，BinaryAD与全精度基线相比仅产生极小的性能差距，I-AUROC下降最多1.1%，同时仍保持有竞争力的像素级异常定位精度。这些结果表明，当设计得当时，模块选择二值化为在低功耗、实时工业边缘硬件上部署先进的基于Transformer的异常检测架构提供了一条实用且有效的方法。源代码可在https://github.com/jj258/BinaryAD获取。

Keyword:

Anomaly detection

Lightweight models

Binarization

Computational efficiency

BinaryAD: Efficient image anomaly detection via binarized representations

摘要

期刊

机构

引用论文