arrow
返回

Data-efficient reinforcement learning by generalized value estimation

delete2025-04-10
delete0
PRE
AI
J
Junjie Zhou
Y
Ying Tian
M
Minglun Ren *
DOI:10.1007/s10994-025-06763-8delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
解决序贯决策问题的一种有前景的方法是通过强化学习方法。阻碍强化学习在现实世界中应用的一个重要因素是其样本效率低下,这主要归因于价值估计所需的大量试错样本。减少拟合价值函数所需的环境样本数量已成为提高样本效率的关键。然而,在数据有限的情况下,过于频繁的策略迭代可能导致现有价值估计方法陷入过估计的陷阱。该问题源于某一类引导路径中价值偏差的累积。为解决此问题,本文设计了一种新颖的状态-动作价值估计方法,称为广义Q估计(QGene)。QGene基于一种新颖的广义Q函数,该函数评估任意长度状态-动作序列之后可生成的预期累积奖励。这种新定义的广义Q函数固有多重贝尔曼方程,使其能够通过适应不同目标并生成多样化的引导路径来缓解价值偏差的累积。此外,我们引入了一种保守估计技术以有效避免过估计。实验表明,QGene能够更准确地评估在线设置中的策略,并显著提升样本效率。
Keyword:
Reinforcement learning
Value estimation
Data efficiency

期刊

Machine Learning 封面图
Machine Learning
IF:
2.9
论文数:
2.7K
被引数:
3.4W

机构

H
hefei univ technol
学者数:
1.9K
论文数: 759
被引数: 248
Z
Zhenjiang Coll
学者数:
10
论文数: 12
被引数: 4
引用论文

引用论文

Multi-Step Reinforcement Learning: A Unifying Algorithm
err2018-04-29
err0
errOAAI
errKristopher De Asis; J. Hernandez-Garcia; G. Holland; Richard Sutton
err分享
err收藏
Air Learning: a deep reinforcement learning gym for autonomous aerial robot visual navigation
err2021-07-07
err29
errOAAI
errKrishnan, Srivatsan; Boroujerdian, Behzad; Fu, William; Faust, Aleksandra; Reddi, Vijay Janapa
err分享
err收藏
Generalized Speedy Q-Learning
err2020-07-01
err0
errOAAI
errIndu John; Chandramouli Kamanchi; Shalabh Bhatnagar
err分享
err收藏
Human-level control through deep reinforcement learning通过深度强化学习实现人类层面的控制
err2015-02-25
err0
PREAI
errVolodymyr Mnih; Koray Kavukcuoglu; David Silver; Andrei A. Rusu; Joel Veness; Marc G. Bellemare; Alex Graves; Martin Riedmiller; Andreas K. Fidjeland; Georg Ostrovski; Stig Petersen; Charles Beattie; Amir Sadik; Ioannis Antonoglou; Helen King; Dharshan Kumaran; Daan Wierstra; Shane Legg; Demis Hassabis
err分享
err收藏
Risk Aversion Operator for Addressing Maximization Bias in Q-Learning
err2020-01-01
err4
errOAAI
errWang, Bi; Li, Xuelian; Gao, Zhiqiang; Zhong, Yangjun
err分享
err收藏
Rainbow: Combining Improvements in Deep Reinforcement Learning
err2018-04-29
err0
errOAAI
errMatteo Hessel; Joseph Modayil; Hado Van Hasselt; Tom Schaul; Georg Ostrovski; Will Dabney; Dan Horgan; Bilal Piot; Mohammad Azar; David Silver
err分享
err收藏
err分享
err收藏
学者 查看更多内容