.png){kind=icon}
返回
Linguistic structure from a bottleneck on sequential information processing
.png){kind=icon}
OA
AI
DOI：10.1038/s41562-025-02336-w.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
人类语言具有独特的系统性结构，其中语句分解为各自有意义的单词，这些单词组合起来形成短语。在这里，我们表明，类似自然语言的系统性出现在受名为预测信息（predictive information，又称超额熵 excess entropy）的复杂性统计度量约束的编码中。预测信息是随机过程过去与未来之间的互信息。在模拟中，我们发现最小化预测信息的编码会将消息分解为近似独立的特征组，这些特征以系统性和局部性方式表达，对应于单词和短语。接下来，基于跨语言文本语料库，我们发现实际人类语言在语音学、形态学、句法和词汇语义等层面上的结构方式产生的预测信息低于基线。我们的结果建立了语言统计结构与代数结构之间的联系，并加强了这些结构是在一般认知约束下通过交流塑造的观点。Futrell 和 Hahn 认为，语言可以理解为最小化预测信息的编码；也就是说，它们以系统性和局部性方式表达近似独立的特征。
Keyword:
predictive information
linguistic structure
systematicity
communication
cognitive constraints
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
15.9
论文数:
515
被引数:
1.7W
机构
引用论文
Lossy‐Context Surprisal: An Information‐Theoretic Model of Memory Effects in Sentence ProcessingOAAI
OAAI分享收藏分享收藏
分享收藏TOWARD A COGNITIVE-PSYCHOLOGY OF SYNTAX - INFORMATION-PROCESSING CONTRIBUTIONS TO SENTENCE FORMULATION.png)
PSYCHOLOGICAL REVIEW
PSYCHOLOGICAL REVIEWIF5.8
PREAI
分享收藏The Lancaster Sensorimotor Norms: multidimensional measures of perceptual and action strength for 40,000 English words兰开斯特感觉运动规范: 40,000英语单词的感知和动作强度的多维度量OAAI
OAAI分享收藏
查看更多内容