arrow
返回

Constructing Virtual FIFOs in CPU Cache Hierarchy for Software Data Plane Orchestration

delete2026-08-20
delete0
PRE
AI
Z
Zhiyuan Zhang
刘家林 封面图
刘家林 (Jialin Liu)
Z
Zengshi Wang
K
Kanheng Jiang
C
Chao Fu
韩
韩军 (Jun Han)
DOI:10.1109/tc.2026.3725652delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
软件数据平面(SDP)长期以来一直是通用硬件上高性能网络应用中I/O性能的基础。现代网络场景通常要求100+Gbps网络接口(NIC)具备线速深度网络应用(DNAPP)能力。面对此类挑战,当前基于内存层次结构的SDP数据编排方法难以满足严格的吞吐量和延迟要求,或最小化主机互连拥塞和缓存资源争用。本研究中,我们提出,为了理想地管理SDP的数据包接收队列(RXQs),应在现有内存层次结构上为每个RXQ虚拟化一个逻辑FIFO。为此,我们提出了FRM(FIFO-like RXQ Management),一种在缓存层次结构内监控和管理RXQs的综合性方案。FRM通过以下方式实现FIFO虚拟化:(1)一个动态分配-预取框架,在中间级缓存、末级缓存(LLC)和DRAM之间构建FIFO-like RXQ流水线;(2)一个LLC分配框架,为RXQs分配LLC空间并防止它们之间的干扰。实验表明,FRM显著优于当前最先进的面向SDP的预取方法。它提高了随机大小数据包负载下的峰值吞吐量高达60.7%,并在I/O密集型基准测试下将接近饱和负载的延迟降低了44.9%。在高网络负载下,FRM将LLC写回带宽降低了41.2%,并增强了非I/O数据访问的缓存性能。
Keyword:
cache resource orchestration
hardware prefetching
Direct Cache Access
software data plane
DPDK

期刊

IEEE Transactions on Computers 封面图
IEEE Transactions on Computers
IF:
3.8
论文数:
5.4K
被引数:
9.8K

机构

F
fudan university
学者数:
3.6K
论文数: 952
被引数: 0
引用论文

引用论文

暂无论文信息