arrow
返回

A resource-efficient Q-learning algorithm using Boltzmann policy

delete2026-10-01
delete0
delete
OA
AI
A
Arwa S. Bazmalah
N
Noorfazila Kamal *
K
Kalaivani Chellappan
A
Asraf Mohamed Moubark
A
Arwa S. Bazmalah
DOI:10.1038/s41598-026-73214-2delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
Q学习(QL)在平衡探索与利用方面面临挑战。QL通常采用ε-贪婪策略。然而,ε-贪婪策略由于不必要的探索导致在可编程门阵列(FPGA)上收敛缓慢且资源消耗过大。本文提出了一种硬件Q学习架构,采用定点表示法集成玻尔兹曼策略。该设计在Genesys 2 Kintex7(XC7K325T-2FFG900C)FPGA上实现。利用玻尔兹曼策略优先选择最优动作的能力,本设计显著减少了更新状态所需的迭代次数。这一减少带来了更快的收敛速度和更高效的资源分配策略。实验结果表明FPGA资源效率得到提升。对于16位实现,所提设计将查找表(LUT)、LUTRAM、触发器(FF)和块随机存取存储器(BRAM)的使用量分别限制在总硬件资源的0.86%、0.06%、0.27%和0.79%。对于32位实现,LUT、LUTRAM、FF和BRAM的使用量分别限制在1.26%、0.01%、0.38%和2.02%。此外,所提设计在16位配置下实现了46%的功耗效率提升,在32位配置下实现了28%的功耗效率提升。基于这些结果,所提基于玻尔兹曼的QL架构在优化FPGA资源利用的同时提升了整体系统性能。
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

Scientific Reports 封面图
Scientific Reports
IF:
3.9
论文数:
28.2W
被引数:
83.5W

机构

U
Universiti Kebangsaan Malaysia
学者数:
328
论文数: 121
被引数: 0
引用论文

引用论文

暂无论文信息