返回
A multi-objective surrogate framework for training neural topic models
DOI:10.1016/j.neucom.2026.133432.png)
摘要
En 中文
神经网络主题模型在生成连贯主题和学习文档-主题分布方面取得了显著进展,但它们通常依赖于多个差异巨大的损失分量。这些不平衡使得联合优化困难,并且通常需要大量的超参数调整。多目标优化(MOO)方法提供了有前景的方向,但它们的应用主要局限于共享参数架构的设置,限制了其在许多主题建模框架中的适用性。此外,直接将标准MOO技术应用于神经网络主题模型可能会导致性能下降,因为目标之间存在不兼容性。本研究介绍了一种无需依赖硬参数共享即可将MOO整合到神经网络主题建模中的新策略。所提出的方法能够有效协调多个损失函数,并促进稳定的优化。在广泛使用的基准语料库上的实验表明,该方法相较于基线神经网络主题模型实现了显著改进,并始终优于简单的MOO基线变体。我们的代码已公开托管在github 2。
Keyword:
neural topic models
multi-objective optimization
surrogate framework
document-topic distributions
hyperparameter tuning
期刊
IF:
6.5
论文数:
2.5W
被引数:
6.5W
机构
引用论文
Balancing stability and plasticity when learning topic models from short and noisy text streams
NEUROCOMPUTING
IF6.5

