arrow
返回

A topic-based framework for interpretable and sparse semantic representations

delete2026-10-16
delete0
PRE
AI
M
Ming Song
Q
Qing Cai *
DOI:10.3758/s13428-026-03187-7delete
delete原文链接
delete分享
delete收藏
摘要

摘要

En 中文
在计算语言学方法中,现代深度学习系统生成的语义表示通常编码为高维潜在向量,难以解释。相比之下,认知科学强调需要具有可解释和认知意义的语义结构。尽管研究人员已探索使用语料库驱动的分布式嵌入和多种基于特征的方法来表示概念,但一个能够表示不同粒度语言材料的可扩展且可解释的框架仍是一个开放的方法学挑战。预训练语言模型的最新进展催生了利用这些模型的主题建模方法,例如BERTopic,它使用句子级嵌入来推导出对应于可解释主题的聚类。基于此工作,本研究提出了一种框架SISTR,将语义表示为可解释且稀疏的主题基表示。该框架从语料库中提取可解释的主题,并通过语言材料与衍生主题的关系来建模语义。该框架旨在适应不同层次和语言的语言材料。我们通过行为实验评估了结果主题维度的可解释性。我们将该框架应用于词语联想任务和语义判断,将模型预测与人类行为数据进行比较。结果表明,SISTR在提供稀疏且可解释的语义表示的同时,达到了与现有语义表示方法相当的竞争力。总体而言,SISTR提供了一种可重用的语义坐标系,为语言数据与语义表示的认知理论之间架设了可解释的桥梁。
Keyword:
Semantic representation
Interpretability
Topic modeling
Sparse representation

期刊

Behavior Research Methods 封面图
Behavior Research Methods
IF:
3.9
论文数:
748
被引数:
3.6W

机构

暂无机构信息
引用论文

引用论文

Developmental changes in semantic knowledge organization
err2016-06-01
err0
PREAI
errLayla Unger; Anna V. Fisher; Rebecca Nugent; Samuel L. Ventura; Christopher J. MacLellan
err分享
err收藏
err分享
err收藏
A large dataset of semantic ratings and its computational extension一个语义评分的大型数据集及其计算扩展
err2023-02-23
err0
errOAAI
errShaonan Wang; Yunhao Zhang; Weiting Shi; Guangyao Zhang; Jiajun Zhang; Nan Lin; Chengqing Zong
err分享
err收藏
Reading Literary Fiction Is Associated With a More Complex Worldview
err2022-07-07
err9
PREAI
errButtrick, Nicholas; Westgate, Erin C.; Oishi, Shigehiro
err分享
err收藏
How to Grow a Mind: Statistics, Structure, and Abstraction如何培养思维: 统计、结构和抽象
errSCIENCE
IF45.8
err2011-03-11
err1.1K
PREAI
errTenenbaum, Joshua B.; Kemp, Charles; Griffiths, Thomas L.; Goodman, Noah D.
err分享
err收藏
The visual and semantic features that predict object memory: Concept property norms for 1,000 object images预测对象记忆的视觉和语义特征: 1,000对象图像的概念属性规范
err2021-01-19
err0
errOAAI
errMariam Hovhannisyan; Alex Clarke; Benjamin R. Geib; Rosalie Cicchinelli; Zachary Monge; Tory Worth; Amanda Szymanski; Roberto Cabeza; Simon W. Davis
err分享
err收藏
学者 查看更多内容