.png){kind=icon}
返回
Not Always a Good Proxy for Importance
.png){kind=icon}
PRE
AI
DOI：10.1523/ENEURO.0461-25.2026.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
神经科学的一个中心方法是利用主成分分析、回归和表征相似性分析等方法，通过分析神经表征来理解系统的功能。这些分析通常基于一个隐含的关联假设：即解释神经活动最大方差的特征对系统的计算最为重要。本文挑战了这一假设。我们回顾了机器学习领域的最新工作，展示了表征偏差——即学习到的表征可能偏向于某些特征而非其他特征。例如，学习到的表征会过度表示简单（线性）特征，而弱化表示复杂（非线性）特征，即使两者对系统的计算同等关键。我们回顾了这些偏差在学习动态和计算模式中的起源。随后，我们讨论了这些偏差对神经科学的影响。我们表明，如果一组特征主导了表征，标准分析技术可能导致高度偏差的推断——例如，得出系统比实际更简单或两个系统比实际更相似的错误结论。我们讨论了这些发现与神经科学中近期实证发展的联系。最后，我们将同态加密作为一个概念案例研究，探讨表征几何与计算之间可能完全分离的潜力。我们总结认为，要全面理解神经系统，需要超越高方差信号，因为关键的计算机制可能隐藏在低方差成分中。
Keyword:
artificial neural networks
computational neuroscience
deep learning
representation analysis
statistical methods
