An auto-parallel training method for deep learning models with extracting model structural features

doi:10.1016/j.asoc.2026.115426

An auto-parallel training method for deep learning models with extracting model structural features

2026-05-14

0

PRE

AI

DOI：10.1016/j.asoc.2026.115426

原文链接

原文求助

摘要

En 中文

• 我们构建了一个模型并行技术的性能评估模型，平衡通信、计算和内存负载以消除资源瓶颈。 • 我们使用Q-Actor-Critic算法提高采样效率并加速强化学习的收敛。 • 我们结合进化策略和Q-Actor-Critic来搜索最优并行策略，利用全局优化和动态环境中的自学习。 • 实验表明，ESRL相比Placeto减少了22.4%的搜索时间和24.7%的每步执行时间，同时性能提升5.8%并平衡了资源。

Keyword:

model parallelism

reinforcement learning

evolution strategy

performance optimization

deep learning

An auto-parallel training method for deep learning models with extracting model structural features

摘要

期刊

机构

引用论文