返回
Evolving vector quantization-aware training: an adaptive method for compressing machine learning models
DOI:10.1007/s12530-026-09815-z.png)
摘要
En 中文
Tiny Machine Learning(TinyML)这一不断发展的领域专注于在资源受限设备上部署先进的机器学习模型,其中在遵循硬件限制的同时实现高模型性能仍然是一个关键挑战。本研究提出了一种量化感知训练(QAT)方法,该方法结合了向量量化与演化聚类方法,具体包括AutoCloud、DBStream、Affinity Propagation和Mean-Shift,这些方法因其能在训练期间动态划分模型参数时的自适应能力而被选用。该方法使用汽车传感器数据进行CO₂排放预测验证,并部署在Macchina A0上,这是一种紧凑型OBD-II汽车接口,广泛用于实时车辆诊断。结果表明,与基线模型相比,该方法实现了7.14倍的压缩率、22%的能耗降低、45%的Flash内存使用减少以及30%的推理加速。与TensorFlow的QAT Int8相比,所提出的方法将均方根误差降低了18.7%,推理速度提升了27.4%,Flash内存使用减少了19.2%,能耗降低了15.3%。AutoCloud在准确性和效率之间实现了最佳权衡,而Mean-Shift提供了最低的预测误差。这些发现表明该方法在嵌入式汽车系统及其他资源受限环境中具有可扩展且能效优化的TinyML部署潜力。
Keyword:
Neural network compression
Training optimization
CO2 emissions
Automotive sensors
Evolving models
Complexity
Artificial Intelligence
Complex Systems
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
2.7
论文数:
235
被引数:
1.2K
机构
引用论文
Extreme sparsification of physics-augmented neural networks for interpretable model discovery in mechanics物理增强神经网络的极端稀疏化,用于力学中的可解释模型发现
DDD TinyML: A TinyML-Based Driver Drowsiness Detection Model Using Deep LearningDDD TinyML: 基于深度学习的TinyML驾驶员睡意检测模型
SENSORS
IF3.5

