返回
Semantic encoder-decoder nonnegative matrix factorization with kullback-leibler divergence
DOI:10.1007/s13042-025-02874-9.png)
摘要
En 中文
非负矩阵分解(NMF),作为一种群体表示学习模型,能够生成基于部分的、具有可解释特征的表示,并可以应用于各种问题,如文本聚类。研究发现,使用Kullback-Leibler散度的NMF模型(NMFk)在文本聚类任务中表现出有前景的性能。然而,现有的基于NMF的文本聚类方法被定义在潜在解码器模型中,缺乏验证机制。近年来,自表示技术已被应用于广泛的任务中,使模型能够自主学习和验证其输入数据的表示。本文提出了一种用于文本聚类的自表示分解模型,将语义信息整合到其学习过程中。基于Kullback-Liebler散度的语义感知编码器-解码器NMF模型(SEDNMFk),将编码器和解码器分解整合到一个Kullback-Liebler代价函数中,相互验证和优化,从而形成更清晰的聚类。为进一步增强方法的语义特性,我们为模型添加了定制的语义正则化。由于SEDNMFk具有类似自动编码器的架构和利用上下文信息的能力,其产生的词嵌入更具信息量,并具有适用于样本外数据的泛化能力。我们提出了一种基于乘性更新规则的优化算法来求解所提出的统一模型。在七个知名数据集上的实验结果表明,所提出的SEDNMFk模型在完全观测和样本外设置下均优于其他最先进的文本聚类方法。
Keyword:
Nonnegative matrix factorization
Encoder-decoder structure
Kullback-Leibler divergence
Self-representation
Text clustering
期刊
IF:
2.7
论文数:
3.2K
被引数:
5.6K
机构
引用论文
Deep Nonnegative Matrix Factorization with Joint Global and Local Structure Preservation具有联合全局和局部结构保留的深度非负矩阵分解

