.png){kind=icon}
返回
AIRP: Accelerating Multi-Tenant Distributed Learning With In-Network Resource Pooling
.png){kind=icon}
PRE
AI
DOI：10.1109/TON.2026.3676228.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
随着大型模型和数据集的日益普及，分布式训练网络的重要性日益凸显。由于梯度同步会产生巨大的网络流量，网络内聚合（INA）应运而生，通过将聚合任务卸载到交换机，缓解网络拥塞并加速分布式训练。然而，随着计算任务向网络转移，INA交换机有限的内存容量成为潜在瓶颈，尤其是在多租户场景下。为解决这一瓶颈并提升网络吞吐量，我们提出了网络内资源池化聚合（AIRP）框架。与现有仅对单个交换机进行局部优化的方法不同，AIRP采用全局视角，高效池化整个网络中交换机的内存资源，并将其分配给多个租户。通过ns-3仿真器和P4测试平台进行的评估表明，AIRP能够加速包括计算机视觉和语言模型在内的多种模型的训练。实验结果显示，在多租户场景下，AIRP在提升网络吞吐量方面比现有INA方法最高提升7倍，同时实现了部署的灵活性和高效性。
Keyword:
Switches
Memory management
Training
Bandwidth
Throughput
Resource management
Servers
Random access memory
Atmospheric modeling
Computational modeling
Distributed learning
in-network aggregation
resource pooling
maximum flow
期刊
I
IF:
0
论文数:
551
被引数:
0
机构
引用论文
An In-Network Parameter Aggregation using DPDK for Multi-GPU Deep Learning基于DPDK的端到端网络参数聚合方法在多GPU深度学习中的应用
PREAI
分享收藏分享收藏分享收藏
分享收藏TiNA.png)
Proceedings of the 3rd ACM international workshop on Data engineering for wireless and mobile access
Proceedings of the 3rd ACM international workshop on Data engineering for wireless and mobile accessIF0
PREAI
分享收藏
查看更多内容