返回
A resource-efficient Q-learning algorithm using Boltzmann policy
DOI:10.1038/s41598-026-73214-2.png)
摘要
En 中文
Q学习(QL)在平衡探索与利用方面面临挑战。QL通常采用ε-贪婪策略。然而,ε-贪婪策略由于不必要的探索导致在可编程门阵列(FPGA)上收敛缓慢且资源消耗过大。本文提出了一种硬件Q学习架构,采用定点表示法集成玻尔兹曼策略。该设计在Genesys 2 Kintex7(XC7K325T-2FFG900C)FPGA上实现。利用玻尔兹曼策略优先选择最优动作的能力,本设计显著减少了更新状态所需的迭代次数。这一减少带来了更快的收敛速度和更高效的资源分配策略。实验结果表明FPGA资源效率得到提升。对于16位实现,所提设计将查找表(LUT)、LUTRAM、触发器(FF)和块随机存取存储器(BRAM)的使用量分别限制在总硬件资源的0.86%、0.06%、0.27%和0.79%。对于32位实现,LUT、LUTRAM、FF和BRAM的使用量分别限制在1.26%、0.01%、0.38%和2.02%。此外,所提设计在16位配置下实现了46%的功耗效率提升,在32位配置下实现了28%的功耗效率提升。基于这些结果,所提基于玻尔兹曼的QL架构在优化FPGA资源利用的同时提升了整体系统性能。
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

