返回
Kernel-Based Actor–Critic Learning Framework for Autonomous Brain Control on Trajectory
DOI:10.1109/TCDS.2024.3485078.png)
摘要
En 中文
基于强化学习(RL)的脑机接口(BMI)在恢复瘫痪个体的运动功能方面具有前景。这些接口通过试错来解释神经活动以控制外部设备。在脑控制(BC)任务中,受试者通过想象自身肢体运动来连续控制设备在空间中移动,且受试者可在到达目标前在任何位置改变方向。此类多步BC任务在神经状态和一系列运动序列上跨越广阔的空间。然而,传统的RL解码器在高效探索和延迟奖励的有限指导方面面临挑战。在本文中,我们提出了一种基于核方法的演员-评论家学习框架,用于多步BC任务。我们的框架整合了来自内侧前额叶皮层(mPFC)活动的连续轨迹控制(演员)和内部连续状态价值估计(评论家)。我们使用两只大鼠的数据,在一个BC三杠杆辨别任务中评估了我们的算法性能,并将其与具有内部二元奖励和延迟外部奖励的核RL解码器进行比较。实验结果表明,我们的方法实现了更快的收敛速度、更短的目标获取时间和更短的目标距离。这些发现突显了我们的算法在多步BC任务临床应用中的潜力。
Keyword:
Brain–machine interfaces (BMIs)
kernel-based actor–critic learning framework
multistep autonomous brain control (BC)
期刊
IF:
4.9
论文数:
1.1K
被引数:
3.5K
机构
引用论文
A Survey of Actor-Critic Reinforcement Learning: Standard and Natural Policy Gradients行动者-批评家强化学习的调查: 标准和自然政策梯度
Using Reinforcement Learning to Provide Stable Brain-Machine Interface Control Despite Neural Input Reorganization
PLoS ONE
IF0

