arrow
返回

Adaptive behavior with stable synapses

delete2025-09-06
delete0
delete
OA
AI
C
Cristiano Capone
L
Luca Falorsi
DOI:10.1016/j.neunet.2025.108082delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
动物和人类因错误或口头指令引发的行为改变,可以极其迅速地发生。虽然学习理论通常将性能提升归因于突触可塑性,但近期发现表明,此类快速适应可能源于相关网络的动态重构,而无需改变突触权重。近期,类似的(此类)能力在transformers中已被观察到,transformers是机器学习的基础架构,广泛应用于自然语言和图像处理等领域。Transformers能够进行上下文学习,即在不改变其参数的情况下,动态适应并获取当前任务或环境中的新信息。我们认为,这一特性可能源于增益调制——一种在生物网络中广泛观察到的特征,例如通过输入分离和树突放大的锥体神经元。我们提出了一种构造性方法,在由具有增益调制的循环网络组成的架构中诱导上下文学习,展示了标准网络无法实现的(此类)能力。具体而言,我们表明,此类架构可以通过将权重变化编码到另一个网络的活动来实现标准的基于梯度的算法。我们主张,尽管这些算法传统上与突触可塑性相关联,但它们对非局部项的依赖表明,它们可能更自然地在神经回路层面在大脑中实现。我们证明了可以将我们的方法扩展到时序任务和强化学习中。此外,我们在一个MuJoCo蚁群导航任务中验证了我们的方法,展示了通过实时网络重构实现的神经形态控制范式。
Keyword:
In context learning
Dynamical learning
Gain modulation
Reservoir computing
Hierarchical learning
Brain-inspired computation
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

Neural Networks 封面图
Neural Networks
IF:
6.3
论文数:
8.4K
被引数:
3.9W

机构

I
Istituto Superiore di Sanità
学者数:
200
论文数: 72
被引数: 75
引用论文

引用论文

Whole-brain dynamics of human sensorimotor adaptation
err2022-10-15
err0
errOAAI
errDominic I Standage; Corson N Areshenkoff; Daniel J Gale; Joseph Y Nashed; J Randall Flanagan; Jason P Gallivan
err分享
err收藏
Illuminating dendritic function with computational models
err2020-05-11
err125
PREAI
errPoirazi, Panayiota; Papoutsi, Athanasia
err分享
err收藏
Contextual inference underlies the learning of sensorimotor repertoires
errNATURE
IF48.5
err2021-11-24
err76
errOAAI
errHeald, James B.; Lengyel, Mate; Wolpert, Daniel M.
err分享
err收藏
The Computational and Neural Bases of Context-Dependent Learning
err2023-07-10
err4
errOAAI
errHeald, James B.; Wolpert, Daniel M.; Lengyel, Mate
err分享
err收藏
Predictive coding networks for temporal prediction
err2024-04-01
err0
errOAAI
errBeren Millidge; Mufeng Tang; Mahyar Osanlouy; Nicol S. Harper; Rafal Bogacz
err分享
err收藏
Learning, Reward, and Decision Making
err2017-01-03
err276
errOAAI
errO'Doherty, John P.; Cockburn, Jeffrey; Pauli, Wolfgang M.
err分享
err收藏
Motor primitives in space and time via targeted gain modulation in cortical networks
err2018-11-26
err0
errOAAI
errJake P. Stroud; Mason A. Porter; Guillaume Hennequin; Tim P. Vogels
err分享
err收藏
学者 查看更多内容