返回
Generating effective ensembles for sentiment analysis
DOI:10.1007/s41060-025-00963-0.png)
摘要
En 中文
近年来,Transformer模型已彻底改变自然语言处理(NLP),在包括情感分析(SA)在内的各项任务中取得了卓越成果。尽管当前SA领域的最佳方法主要依赖Transformer在基准数据集上实现令人瞩目的准确率,但我们假设战略性地结合Transformer与传统NLP模型可获得更优性能。本文提出层次化集成构造(HEC)算法,一种新颖的基于贪心策略的集成方法,该方法与传统方法(如装袋、提升、堆叠)不同,通过使用模拟退火从零开始迭代构建集成,以跳出局部最优。HEC的关键创新在于其基于经验驱动的集成构造方法。通过系统性实验,我们发现选择性纳入异构模型优于假设所有可用模型均对集成性能有正面贡献的传统方法。与使用所有基础学习器并赋予不同权重的常规方法不同,HEC选择性识别最小互补模型子集以最大化集成性能。我们在八个广泛使用的SA数据集(包括SST-2、IMDB和YELP)上的实证评估表明,基于HEC的集成实现95.71%的平均准确率,较纯Transformer集成和传统集成方法均取得具有统计学显著性的提升($$p < 0.05$$)。具体而言,相较于传统方法仅减少11.02%,HEC将最佳单模型与完美分类之间的性能差距缩小了26.61%。此外,我们通过零样本提示与GPT-4进行对比分析,证明HEC在八个数据集中有六个表现优于GPT-4。结果表明,通过智能集成构造利用不同模型类型的互补优势,能够推动情感分析领域的当前最佳水平。
Keyword:
Ensemble learning
Transformers
Sentiment analysis
Text mining
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
I
IF:
2.8
论文数:
1.1K
被引数:
1.3K
机构
引用论文
Ensemble Deep Learning for Multilabel Binary Classification of User-Generated Content集成深度学习用于用户生成内容的多标签二进制分类
Algorithms
IF0
Novel approaches for fake news detection based on attention-based deep multiple-instance learning using contextualized neural language models
NEUROCOMPUTING
IF6.5
Neuro-fuzzy network incorporating multiple lexicons for social sentiment analysis
SOFT COMPUTING
IF2.5
VADER: A Parsimonious Rule-Based Model for Sentiment Analysis of Social Media TextVADER: 一种基于简约规则的社交媒体文本情感分析模型

