.png){kind=icon}
返回
Distributed Flow Control for Efficient DNN Training Scheduling
.png){kind=icon}
PRE
AI
DOI：10.1109/tnsm.2026.3704403.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
分布式深度神经网络（DNN）训练产生周期性、长寿命且相互依赖的数据流，与传统云服务的短、突发性、独立数据流形成鲜明对比。现有的数据流调度方法针对云流量优化，难以处理DNN工作负载的结构化通信，而静态调度器在多租户AI集群的计算抖动和随机性下仍显脆弱。我们提出一种名为PQ的分布式流量控制和调度框架，从脆弱的全局同步转向基于令牌的排队概念。PQ利用商用交换机的标准优先级队列作为弹性缓冲区，根据特定调度策略（如最小化等待时间）动态将任务紧急程度映射为流量优先级，从而提升效率。结果表明，PQ实现的稳定通信交织速度比MLTCP和FQ等响应式基线快3.6至8.8倍。此外，通过将平均迭代时间最多缩短29.2%，同时保持更高的链路利用率，显著优化了性能。
Keyword:
Distributed DNN training
priority queue
flow scheduling
期刊
IF:
5.4
论文数:
618
被引数:
9.2K
机构
引用论文
.png){kind=icon}
分享收藏Re-architecting datacenter networks and stacks for low latency and high performance重新架构数据中心网络和堆栈，实现低延迟和高性能
OAAI
OAAI分享收藏
查看更多内容