How to Improve Neural Network Training Using Evolutionary Algorithms

doi:10.1007/s42979-024-02972-5

How to Improve Neural Network Training Using Evolutionary Algorithms

2024-06-20

0

OA

AI

DOI：10.1007/s42979-024-02972-5

原文链接

原文求助

摘要

En 中文

摘要人工神经网络是现代人工智能的核心组成部分。这些系统通常需要经过训练过程来学习如何解决特定任务。针对特定问题正确选择和调整优化器可以显著提升训练速度和质量。优化器的研究聚焦于创建适用于任何任务的通用解决方案，并通过参数调整实现专业化。虽然参数调整在使优化器适应特定问题方面取得了成功，但从头创建专用优化器的优势仍处于发展阶段。我们提出了一种名为AutoLR的进化框架，能够为特定任务进化优化器。我们使用该框架为流行的图像分类问题进化优化器，发现进化得到的优化器可与人工设计的优化器相媲美。此外，我们还发现当迁移到不同数据集时，进化得到的解决方案仍保持竞争力。对表现最佳优化器的分析表明，该系统进化出了人类尚未发现的创新行为。本研究取得的成果表明，进化算法能够提升神经网络的训练质量，激励未来对框架及其应用进行更深入的研究。

How to Improve Neural Network Training Using Evolutionary Algorithms

摘要

期刊

机构

引用论文