.png){kind=icon}
返回
Large language models for efficient topic modeling
.png){kind=icon}
PRE
AI
DOI：10.1007/s00521-025-11593-9.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
大型语言模型（LLMs）在研究中的应用正变得越来越普遍，因为它们在处理和生成类人文本方面提供了先进的能力。然而，这种进步在时间和计算成本方面带来了显著的权衡。在本文中，我们证明，使用LLMs分析大型文本数据集可以在时间和能源方面高效完成。为此，我们利用了Llama预训练模型。具体而言，我们研究了主题建模任务，其目标是在大型文本语料库中发现和识别主题。我们方法的基础是一种层次 divisive 聚类技术，该技术在对经过在多样化数据和多任务上预训练的Sentence-BERT编码器进行应用后，根据数据的语义相似性进行聚类。然后，使用LLM，我们为每个聚类的代表性样本识别主题。此外，我们引入了一种新的评估方法，该方法利用LLMs的能力来评估发现的主题与真实标签之间的对齐度，从而提供一个稳健的验证指标。我们的研究结果表明，与直接应用LLMs和BERTopic相比，可以有效地降低主题建模过程的计算成本，同时提升推理时间和整体效率，从而超越BERTopic当前的最先进能力。
Keyword:
Large language models
Hierarchical divisive clustering
Llama 3.1
BERTopic
期刊
IF:
4.5
论文数:
954
被引数:
3.2W
机构
引用论文
A short text topic modeling method based on integrating Gaussian and Logistic coding networks with pre-trained word embeddings.png)
NEUROCOMPUTING
NEUROCOMPUTINGIF6.5
PREAI
分享收藏Efficient Memory Management for Large Language Model Serving with PagedAttention使用PagedAttention服务的大型语言模型的有效内存管理
OAAI
OAAI分享收藏分享收藏ChatGPT for good? On opportunities and challenges of large language models for educationChatGPT好吗？论大语言模式对教育的机遇与挑战
OAAI
OAAI分享收藏
查看更多内容