arrow
返回

Autonomous agents: Augmenting visual information with raw audio data

delete2025-05-23
delete0
delete
OA
AI
E
Enoch Solomon *
DOI:10.1371/journal.pone.0318372delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
在游戏玩法的领域,深度强化学习主要依赖视觉输入将状态映射到动作。从游戏环境中提取的视觉数据构成了强化学习代理状态表示的基础。然而,人类利用额外的感官输入,如音频提示,这些在感知和决策中起着关键作用。因此,将原始音频与视觉信息相结合,显示出为强化学习代理提供宝贵见解的潜力。本研究倡导将原始音频样本作为补充信息整合到状态表示中的视觉数据中。通过使用原始音频与视觉提示,我们的目标是丰富代理在每个阶段的决策过程。实验评估采用Deep Q Networks(DQN)和Proximal Policy Optimization(PPO)算法,在ViZDoom和Unity强化学习环境中进行。我们的实验结果表明,与仅依赖视觉数据相比,用原始音频样本增强视觉信息可获得更优的奖励并加速学习速率。此外,研究发现考虑视觉和音频特征可提升代理的行为,这一趋势在Unity和ViZDoom环境中均观察到。本研究强调了将多感官信息(尤其是原始音频)整合到强化学习代理状态表示中的潜在优势。这些见解有助于推进我们对代理如何感知并与其环境互动的理解,最终在复杂游戏场景中提升性能。

期刊

PLoS One 封面图
PLoS One
IF:
2.6
论文数:
2.6W
被引数:
81.6W

机构

Virginia State University 封面图
Virginia State University
学者数:
237
论文数: 214
被引数: 239
引用论文

引用论文

ImageNet Large Scale Visual Recognition ChallengeImageNet大规模视觉识别挑战
err2015-04-11
err2.7W
PREAI
errRussakovsky, Olga; Deng, Jia; Su, Hao; Krause, Jonathan; Satheesh, Sanjeev; Ma, Sean; Huang, Zhiheng; Karpathy, Andrej; Khosla, Aditya; Bernstein, Michael; Berg, Alexander C.; Fei-Fei, Li
err分享
err收藏
Human-level control through deep reinforcement learning通过深度强化学习实现人类层面的控制
err2015-02-25
err0
PREAI
errVolodymyr Mnih; Koray Kavukcuoglu; David Silver; Andrei A. Rusu; Joel Veness; Marc G. Bellemare; Alex Graves; Martin Riedmiller; Andreas K. Fidjeland; Georg Ostrovski; Stig Petersen; Charles Beattie; Amir Sadik; Ioannis Antonoglou; Helen King; Dharshan Kumaran; Daan Wierstra; Shane Legg; Demis Hassabis
err分享
err收藏
Q-learning
err1992-05-01
err0
errOAAI
errChristopher J. C. H. Watkins; Peter Dayan
err分享
err收藏
ViZDoom: A Doom-based AI research platform for visual reinforcement learning
err2016-09-01
err0
errOAAI
errMichal Kempka; Marek Wydmuch; Grzegorz Runc; Jakub Toczek; Wojciech Jaskowski
err分享
err收藏
学者 查看更多内容