返回
A topic-based framework for interpretable and sparse semantic representations
DOI:10.3758/s13428-026-03187-7.png)
摘要
En 中文
在计算语言学方法中,现代深度学习系统生成的语义表示通常编码为高维潜在向量,难以解释。相比之下,认知科学强调需要具有可解释和认知意义的语义结构。尽管研究人员已探索使用语料库驱动的分布式嵌入和多种基于特征的方法来表示概念,但一个能够表示不同粒度语言材料的可扩展且可解释的框架仍是一个开放的方法学挑战。预训练语言模型的最新进展催生了利用这些模型的主题建模方法,例如BERTopic,它使用句子级嵌入来推导出对应于可解释主题的聚类。基于此工作,本研究提出了一种框架SISTR,将语义表示为可解释且稀疏的主题基表示。该框架从语料库中提取可解释的主题,并通过语言材料与衍生主题的关系来建模语义。该框架旨在适应不同层次和语言的语言材料。我们通过行为实验评估了结果主题维度的可解释性。我们将该框架应用于词语联想任务和语义判断,将模型预测与人类行为数据进行比较。结果表明,SISTR在提供稀疏且可解释的语义表示的同时,达到了与现有语义表示方法相当的竞争力。总体而言,SISTR提供了一种可重用的语义坐标系,为语言数据与语义表示的认知理论之间架设了可解释的桥梁。
Keyword:
Semantic representation
Interpretability
Topic modeling
Sparse representation
期刊
IF:
3.9
论文数:
748
被引数:
3.6W
机构
暂无机构信息
引用论文
A large dataset of semantic ratings and its computational extension一个语义评分的大型数据集及其计算扩展
Scientific Data
IF6.9
Determining the Relativity of Word Meanings Through the Construction of Individualized Models of Semantic Memory通过构建个体化语义记忆模型来确定词义的相对性

