返回
Optimizing deep learning models: A review
DOI:10.1177/15741702251370052.png)
摘要
En 中文
近年来深度学习的进展使得开发出强大的模型成为可能,但这些模型也极具资源密集性。这导致了高昂的财务成本、延长的训练时间以及显著的环境影响。因此,优化训练过程对于在维持或提升性能的同时缓解这些成本至关重要。在此背景下,软件层面的优化通过改进训练流水线、内存管理和整体代码效率发挥着关键作用。作为代码优化过程的一部分,超参数微调是本综述的重点,它探讨了如何有效结合和调整这些参数,以提升整体模型性能,同时降低成本和环境影响的综述。
Keyword:
deep learning
learning rate
momentum
weight decay
期刊
M
IF:
0.4
论文数:
11
被引数:
0
机构
暂无机构信息

