arrow
返回

Kernel-Based Actor–Critic Learning Framework for Autonomous Brain Control on Trajectory

delete2025-06-01
delete0
PRE
AI
宋
宋志伟 (Zhiwei Song)
X
Xiang Zhang
S
Shuhang Chen
J
Jieyuan Tan
Y
Yiwen Wang
DOI:10.1109/TCDS.2024.3485078delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
基于强化学习(RL)的脑机接口(BMI)在恢复瘫痪个体的运动功能方面具有前景。这些接口通过试错来解释神经活动以控制外部设备。在脑控制(BC)任务中,受试者通过想象自身肢体运动来连续控制设备在空间中移动,且受试者可在到达目标前在任何位置改变方向。此类多步BC任务在神经状态和一系列运动序列上跨越广阔的空间。然而,传统的RL解码器在高效探索和延迟奖励的有限指导方面面临挑战。在本文中,我们提出了一种基于核方法的演员-评论家学习框架,用于多步BC任务。我们的框架整合了来自内侧前额叶皮层(mPFC)活动的连续轨迹控制(演员)和内部连续状态价值估计(评论家)。我们使用两只大鼠的数据,在一个BC三杠杆辨别任务中评估了我们的算法性能,并将其与具有内部二元奖励和延迟外部奖励的核RL解码器进行比较。实验结果表明,我们的方法实现了更快的收敛速度、更短的目标获取时间和更短的目标距离。这些发现突显了我们的算法在多步BC任务临床应用中的潜力。
Keyword:
Brain–machine interfaces (BMIs)
kernel-based actor–critic learning framework
multistep autonomous brain control (BC)

期刊

IEEE Transactions on Cognitive and Developmental Systems 封面图
IEEE Transactions on Cognitive and Developmental Systems
IF:
4.9
论文数:
1.1K
被引数:
3.5K

机构

H
Hong Kong University of Science and Technology
学者数:
2.0K
论文数: 1.2K
被引数: 3.9W
引用论文

引用论文

Distinct regions of anterior cingulate cortex signal prediction and outcome evaluation
err2014-07-01
err0
errOAAI
errAndrew Jahn; Derek Evan Nee; William H. Alexander; Joshua W. Brown
err分享
err收藏
High-performance brain-to-text communication via handwriting通过手写实现高性能的脑-文通信
err2021-05-12
err0
errOAAI
errFrancis R. Willett; Donald T. Avansino; Leigh R. Hochberg; Jaimie M. Henderson; Krishna V. Shenoy
err分享
err收藏
err分享
err收藏
Using Reinforcement Learning to Provide Stable Brain-Machine Interface Control Despite Neural Input Reorganization
err2014-01-30
err0
errOAAI
errEric A. Pohlmeyer; Babak Mahmoudi; Shijia Geng; Noeline W. Prins; Justin C. Sanchez
err分享
err收藏
A high-performance neural prosthesis enabled by control algorithm design
err2012-11-18
err0
errOAAI
errVikash Gilja; Paul Nuyujukian; Cindy A Chestek; John P Cunningham; Byron M Yu; Joline M Fan; Mark M Churchland; Matthew T Kaufman; Jonathan C Kao; Stephen I Ryu; Krishna V Shenoy
err分享
err收藏
Coadaptive Brain–Machine Interface via Reinforcement Learning
err2009-01-01
err0
PREAI
errJ. DiGiovanna; B. Mahmoudi; J. Fortes; J.C. Principe; J.C. Sanchez
err分享
err收藏
学者 查看更多内容