返回
Dynamic bottleneck with a predictable prior for image-based deep reinforcement learning
DOI:10.1016/j.eswa.2024.126094.png)
摘要
En 中文
基于信息瓶颈的方法通过从高维图像中学习压缩表示,已被证明能显著提高基于图像的强化学习的数据效率。然而,这些方法通常将状态嵌入的先验指定为固定的各向同性单位高斯分布,这导致互信息的变分上界松弛,从而无法保证状态的有效压缩。在本文中,我们提出了一种具有可预测参数化先验的信息论动态瓶颈目标,该目标保留并压缩与环境底层动态相关的预测信息,以学习压缩且与动态相关的表示。为了有效过滤与环境动态无关的信息,我们利用观测的时间连贯性来构建当前状态表示的可预测参数化先验。这种可预测的参数化先验不仅使我们能够构建压缩的动态瓶颈目标的紧上界,还有助于学习对未来预测有用的表示。在Deepmind控制套件中的一组具有挑战性的基于图像的连续控制任务上的实验评估表明,我们的方法在数据效率方面优于基于信息瓶颈或对比学习的领先基线。
Keyword:
Reinforcement learning
Information bottleneck
Representation learning
Variational inference
Mutual information
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
Multimodal information bottleneck for deep reinforcement learning with multiple sensors
NEURAL NETWORKS
IF6.3
Sequential action-induced invariant representation for reinforcement learning用于强化学习的序列动作诱导不变表示
NEURAL NETWORKS
IF6.3
STACoRe: Spatio-temporal and action-based contrastive representations for reinforcement learning in AtariSTACoRe: Atari中用于强化学习的时空和基于动作的对比表示
NEURAL NETWORKS
IF6.3
Towards monocular vision-based autonomous flight through deep reinforcement learning通过深度强化学习实现基于单目视觉的自主飞行
Integrating contrastive learning with dynamic models for reinforcement learning from images
NEUROCOMPUTING
IF6.5

