arrow
返回

Hippocampus supports multi-task reinforcement learning under partial observability

delete2025-10-30
delete0
delete
OA
AI
D
Dabal Pedamonti
S
Samia Mohinta
M
Martin V. Dimitrov
H
Hugo Malagon‐Vina
S
Stéphane Ciocchi
R
Rui Ponte Costa *
DOI:10.1038/s41467-025-64591-9delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
掌握在能见度受限环境中的导航能力对生存至关重要。尽管海马体已被认为与目标导向导航相关联,但其对现实世界行为的作用尚不明确。为探究此问题,我们将深度强化学习(RL)建模与行为及神经数据分析相结合。首先,我们使用自我中心任务和外部参照任务,在部分可观察环境中训练RL智能体。结果显示,配备循环海马体回路的智能体,而非纯前馈网络,其学习行为与动物行为一致。接下来,我们利用智能体内部表征的降维分析,提取反映奖励、策略和时间表征的成分,并通过实验验证了这些成分与大鼠海马体记录的对应关系。此外,海马体RL智能体预测了状态特定的轨迹,与实证发现相符。相比之下,在完全可观察环境中训练的智能体未能捕捉到实验观察结果。最后,我们证明具有海马体样循环结构的RL智能体在新型任务条件下表现出更强的泛化能力。总之,我们的发现表明海马体网络在促进自然环境中强化学习方面发挥着重要作用。自然环境中强化学习的神经机制尚未完全阐明。本研究表明,与纯前馈网络不同,具有海马体样循环结构的强化学习(RL)智能体能匹配导航任务中的动物行为和神经数据,揭示海马体回路支持自然环境中的强化学习。
Keyword:
Hippocampus
Reinforcement learning
Partial observability
Navigation
Neural mechanisms
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

Nature Communications 封面图
Nature Communications
IF:
15.7
论文数:
9.4W
被引数:
91.2W

机构

M
Medical University of Vienna
学者数:
3.7W
论文数: 2.5W
被引数: 3.1W
U
University of Bristol
学者数:
3.1W
论文数: 3.0W
被引数: 5.3W
引用论文

引用论文

Orbitofrontal Cortex as a Cognitive Map of Task Space
errNEURON
IF15
err2014-01-01
err630
errOAAI
errWilson, Robert C.; Takahashi, Yuji K.; Schoenbaum, Geoffrey; Niv, Yael
err分享
err收藏
Spatial goal coding in the hippocampal formation
errNEURON
IF15
err2022-02-01
err54
errOAAI
errNyberg, Nils; Duvelle, Eleonore; Barry, Caswell; Spiers, Hugo J.
err分享
err收藏
Context, Learning, and Extinction
err2010-01-01
err278
PREAI
errGershman, Samuel J.; Blei, David M.; Niv, Yael
err分享
err收藏
Fluid network dynamics in the prefrontal cortex during multiple strategy switching
err2018-01-22
err33
errOAAI
errMalagon-Vina, Hugo; Ciocchi, Stephane; Passecker, Johannes; Dorffner, Georg; Klausberger, Thomas
err分享
err收藏
err分享
err收藏
Human-level control through deep reinforcement learning通过深度强化学习实现人类层面的控制
err2015-02-25
err0
PREAI
errVolodymyr Mnih; Koray Kavukcuoglu; David Silver; Andrei A. Rusu; Joel Veness; Marc G. Bellemare; Alex Graves; Martin Riedmiller; Andreas K. Fidjeland; Georg Ostrovski; Stig Petersen; Charles Beattie; Amir Sadik; Ioannis Antonoglou; Helen King; Dharshan Kumaran; Daan Wierstra; Shane Legg; Demis Hassabis
err分享
err收藏
学者 查看更多内容