返回
Adaptive behavior with stable synapses
DOI:10.1016/j.neunet.2025.108082.png)
摘要
En 中文
动物和人类因错误或口头指令引发的行为改变,可以极其迅速地发生。虽然学习理论通常将性能提升归因于突触可塑性,但近期发现表明,此类快速适应可能源于相关网络的动态重构,而无需改变突触权重。近期,类似的(此类)能力在transformers中已被观察到,transformers是机器学习的基础架构,广泛应用于自然语言和图像处理等领域。Transformers能够进行上下文学习,即在不改变其参数的情况下,动态适应并获取当前任务或环境中的新信息。我们认为,这一特性可能源于增益调制——一种在生物网络中广泛观察到的特征,例如通过输入分离和树突放大的锥体神经元。我们提出了一种构造性方法,在由具有增益调制的循环网络组成的架构中诱导上下文学习,展示了标准网络无法实现的(此类)能力。具体而言,我们表明,此类架构可以通过将权重变化编码到另一个网络的活动来实现标准的基于梯度的算法。我们主张,尽管这些算法传统上与突触可塑性相关联,但它们对非局部项的依赖表明,它们可能更自然地在神经回路层面在大脑中实现。我们证明了可以将我们的方法扩展到时序任务和强化学习中。此外,我们在一个MuJoCo蚁群导航任务中验证了我们的方法,展示了通过实时网络重构实现的神经形态控制范式。
Keyword:
In context learning
Dynamical learning
Gain modulation
Reservoir computing
Hierarchical learning
Brain-inspired computation
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
6.3
论文数:
8.4K
被引数:
3.9W
机构
引用论文
A Dynamic Analysis of Pricing and Investment in Circular Economy with Learning-By-doing循环经济中价格与投资动态分析:基于干中学模型
Dynamic predictive coding: A model of hierarchical sequence learning and prediction in the neocortex
plos biology
IF3.6
Uncertainty-based competition between prefrontal and dorsolateral striatal systems for behavioral control行为控制的前额叶和背外侧纹状体系统之间基于不确定性的竞争

