arrow
返回

Dynamic bottleneck with a predictable prior for image-based deep reinforcement learning

delete2025-03-01
delete0
PRE
AI
B
Bang You
B
Bing Chen *
L
Lei Yao
Y
Youping Chen
谢
谢经明 (Jingming Xie)
DOI:10.1016/j.eswa.2024.126094delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
基于信息瓶颈的方法通过从高维图像中学习压缩表示,已被证明能显著提高基于图像的强化学习的数据效率。然而,这些方法通常将状态嵌入的先验指定为固定的各向同性单位高斯分布,这导致互信息的变分上界松弛,从而无法保证状态的有效压缩。在本文中,我们提出了一种具有可预测参数化先验的信息论动态瓶颈目标,该目标保留并压缩与环境底层动态相关的预测信息,以学习压缩且与动态相关的表示。为了有效过滤与环境动态无关的信息,我们利用观测的时间连贯性来构建当前状态表示的可预测参数化先验。这种可预测的参数化先验不仅使我们能够构建压缩的动态瓶颈目标的紧上界,还有助于学习对未来预测有用的表示。在Deepmind控制套件中的一组具有挑战性的基于图像的连续控制任务上的实验评估表明,我们的方法在数据效率方面优于基于信息瓶颈或对比学习的领先基线。
Keyword:
Reinforcement learning
Information bottleneck
Representation learning
Variational inference
Mutual information

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

H
huazhong univ sci technol
学者数:
7.7K
论文数: 2.6K
被引数: 3
引用论文

引用论文

Self-Supervised Information Bottleneck for Deep Multi-View Subspace Clustering
err2023-01-01
err26
errOAAI
errWang, Shiye; Li, Changsheng; Li, Yanming; Yuan, Ye; Wang, Guoren
err分享
err收藏
Integrating contrastive learning with dynamic models for reinforcement learning from images
err2022-03-01
err9
errOAAI
errYou, Bang; Arenz, Oleg; Chen, Youping; Peters, Jan
err分享
err收藏
学者 查看更多内容