.png){kind=icon}
返回
Fully Quantized Training vs. Post-Training Quantization for a Small Hyperspectral Transformer Model for Pixel-Level Foreign Plastic Object Classification
.png){kind=icon}
OA
AI
DOI：10.3390/s26175531.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
低精度浮点计算已成为高效人工智能的核心，但其对紧凑型基于变换器的高光谱成像（HSI）模型的行为仍需进一步探索。本研究针对家禽高光谱数据中的像素级外来塑料物体（FPO）分类，对全量化训练（FQT）和训练后量化（PTQ）进行了受控比较研究。采用固定的最先进的空间-光谱变换器骨干网络、通用的混合精度策略以及相同的训练和推理协议，我们评估了FP32、FP16、BF16、FP8和NVFP4在预测性能、模型压缩、训练效率和推理效率方面的表现。结果表明，混合精度FQT在整个测试精度范围内保持高度鲁棒性，所有降低精度的配置总体准确率均保持在FP32基线0.63个百分点以内，同时始终在匹配精度下优于PTQ。在所有评估格式中，BF16的准确率最接近FP32，而FP8在准确率保持和降低精度之间提供了特别有利的平衡，同时模型压缩在NVFP4下逐步增加到3.69倍。然而，计算优势强烈依赖于工作负载。原生FP8/FP4硬件支持并不能自动提高该紧凑模型在中等工作负载下的训练吞吐量，且为更好利用低精度硬件所需的大训练批次可能会降低预测性能。相比之下，大批次推理可以有效利用FP8和NVFP4而不影响预测准确率。消融研究进一步表明，在FP32中保留数值敏感模块的选择性保留对于稳定的超低精度操作至关重要。总体而言，研究结果证明低精度是紧凑型HSI变换器的可行但工作负载依赖的设计选择，FQT比PTQ和FP8提供更高的准确率鲁棒性，而FP8提供了有利的整体准确率-效率权衡。
Keyword:
hyperspectral imaging
fully quantized training
post-training quantization
model compression
fqt
ptq
foreign object detection
foreign plastic objects
NVIDIA Blackwell
NVFP4
FP8
transformer
food safety
sensor technology
期刊
IF:
3.5
论文数:
7.2W
被引数:
20.9W
机构
引用论文
Nondestructive Evaluation of Heritage Object Coatings with Four Hyperspectral Imaging Systems.png)
Coatings
OAAI
CoatingsIF0
OAAI分享收藏Micikevicius, P.; Stosic, D.; Burgess, N.; Cornea, M.; Dubey, P.; Grisenthwaite, R.; Ha, S.; Heinecke, A.; Judd, P.; Kamalu, J.; et al. FP8 formats for deep learning. arXiv 2022, arXiv:2209.05433. [Google Scholar] [CrossRef]Micikevicius, P.; Stosic, D.; Burgess, N.; Cornea, M.; Dubey, P.; Grisenthwaite, R.; Ha, S.; Heinecke, A.; Judd, P.; Kamalu, J.; 等. 深度学习的FP8格式. arXiv 2022, arXiv:2209.05433. [Google Scholar] [CrossRef]
IF0
PREAI
分享收藏
查看更多内容