.png){kind=icon}
返回
FC-GPU: Feedback Control GPU Scheduling for Real-time Embedded Systems
.png){kind=icon}
OA
AI
DOI：10.1145/3761812.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
近年来，GPU已被广泛应用于许多实时嵌入式系统中。然而，现有的GPU调度方案大多是开环的，并且依赖于最坏情况执行时间（WCET）的估计。尽管自适应方案，如反馈控制调度，已被先前提出以处理针对基于CPU的实时任务的这一挑战，但它们不能直接应用于GPU，因为GPU具有不同且更复杂的架构，因此可调度利用率的界限目前尚不适用于GPU。在本文中，我们提出了FC-GPU，这是首个面向实时嵌入式系统的反馈控制GPU调度框架。为了对任务间的GPU资源争用进行建模，我们通过分析推导出一个多输入多输出（MIMO）系统模型，该模型能够捕捉任务速率调整对各个任务响应时间的影响。基于此模型，我们设计了一个MIMO控制器，该控制器能够根据测量的响应时间动态调整任务速率。我们在Nvidia RTX 3090 GPU和AMD MI-100 GPU上的广泛硬件测试床结果表明，FC-GPU即使在任务执行时间在运行时显著增加的情况下，也能提供更好的实时性能。
Keyword:
GPU scheduling
real-time
embedded systems
feedback control
期刊
IF:
2.6
论文数:
237
被引数:
2.3K
机构
引用论文
.png){kind=icon}
分享收藏
分享收藏Latency-Guaranteed Co-Location of Inference and Training for Reducing Data Center Expenses低延迟保证的推理与训练共置以降低数据中心成本
PREAI
分享收藏
查看更多内容