返回
Enabling Learning-Based Efficiency Optimizer With Shadow Cycles in Resource-Constrained Autonomous Embedded Systems
DOI:10.1109/TC.2025.3644184.png)
摘要
En 中文
自主嵌入式系统(AES)的兴起趋势有望最小化关键任务中的人工干预。在追求每瓦特最高性能的过程中,AES复杂的硬件和软件需要智能能效优化器(EO),而随机的运行时变化要求持续性的EO。然而,部署期望的设备端EO会导致严重的性能下降,因为其与AES流水线在有限计算能力上存在竞争。我们发现,AES内部存在被忽视和未充分利用的异构资源用于高成本的EO,这源于加速器行为的不平衡和并行推理执行的错位。我们通过实验和理论分析,研究了商用嵌入式平台上现实自主的“鸟瞰视图”流水线中的Shadow Cycles,并将其分为具有不同特性的垂直型和水平型。本文介绍SHEEO+,一种利用被忽视的异构阴影周期的持续智能能效优化器。它通过观察模块实现连续轻量级的AES监控,并通过优化模块实现智能高效的AES功耗管理。一方面,SHEEO+通过便携接口观察内部运行时状态和外部环境变化,以捕捉阴影周期和实时状态;另一方面,SHEEO+基于深度强化学习(DRL)方法按迭代优化功耗配置,针对两种类型的阴影周期定制DRL,并根据资源可用性调用优化过程。为全面评估SHEEO+,我们实现了一个原型并部署在现实边缘平台上。评估结果显示,SHEEO+利用了高达74.2%的阴影周期,与最先进的能效优化器相比,实现了高达18.6%的能效提升,且部署开销可忽略不计。
Keyword:
Energy efficiency optimization
shadow cycle
reinforcement learning
autonomous embedded system
期刊
IF:
3.8
论文数:
5.4K
被引数:
9.8K
机构
引用论文
AutoScale: Energy Efficiency Optimization for Stochastic Edge Inference Using Reinforcement Learning

