返回
Optimizing Energy in Supervised Learning with Data Summarization: A Comparative Study
DOI:10.1007/978-3-032-09315-8_16.png)
摘要
En 中文
现代机器学习(ML)模型巨大的计算需求引发了对其训练过程中环境影响和经济成本的日益关注。为解决这一问题,数据摘要技术(涉及选择训练数据中较小且具有代表性的子集)为在不牺牲模型性能的前提下优化能耗提供了有前景的途径。本文研究了不同数据摘要算法(具体包括随机采样、设施定位(FL)和CRAIG)对监督学习(SL)训练三个关键方面的影响:模型精度、能耗以及整体效率(我们将其量化为精度与能耗的比率)。我们的广泛实验结果表明,尽管FL和CRAIG等复杂方法旨在选择高度代表性的子集,但随机采样始终实现了精度与效率的稳健平衡。这在考虑到更复杂选择策略通常产生的显著预处理能耗开销时尤为明显。此外,我们强调了早期停止标准在优化训练过程整体能效中的关键作用。我们的分析表明,对这些标准的战略调整可以大幅减少收敛所需的训练周期数,从而缓解大量能源浪费。
Keyword:
Data summarization
Energy-efficiency
Supervised learning

