arrow
返回

Ensemble learning training strategy based on multi-objective particle swarm optimization and chasing method

delete2025-07-01
delete0
PRE
AI
X
Xinyue Li
Y
Yu Zhang
W
Wang Hu *
DOI:10.1016/j.eswa.2025.127777delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
集成学习(EL)是一种在现实应用中广泛使用且取得显著成果的方法。然而,由于基模型精度较低或复杂度过高,通过常规方法(如多次数据划分或训练过程)构建的集成模型质量无法得到保证。在现有工作中,平衡预测精度与模型复杂度具有挑战性,因为这两者是对立的因素,且均影响泛化能力。受多目标优化能够生成涉及冲突目标的帕累托解集的启发,提出了一种基于多目标粒子群优化(MOPSO)并结合结合局部搜索的追赶方法的集成学习算法。该算法被称为EL-MOPSO,旨在训练过程中同时平衡多样性、预测精度和模型复杂度。具体而言,将MOPSO引入EL,以生成各种帕累托模型,这些模型在精度和复杂度方面位于MOPSO的近似帕累托前沿(PF)上,用于构建模型池。设计了一种追赶方法,其中MOPSO档案中的解和局部搜索方法产生的解相互追赶,以提高EL-MOPSO生成模型的精度。此外,引入自适应参考向量,用于从模型池中选择适合局部搜索模型集成过程的模型。在42个测试函数上的实验结果证明了EL-MOPSO在预测精度方面优于当前最优方法,EL-MOPSO在28个测试案例中达到了最佳精度。此外,将所提出的方法应用于一个实际材料设计问题,进一步证明了EL-MOPSO算法的能力。结果表明,通过EL-MOPSO训练的集成模型平均误差为0.021,而基于SWA的EL、DREML、IETP-EL以及提升与装袋方法的均方误差(MSE)分别为0.033、0.041、0.023和0.025。
Keyword:
Ensemble learning
Evolutionary algorithm
Multi-objective particle swarm optimization
Local search

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

U
University of Electronic Science and Technology of China
学者数:
5.5K
论文数: 2.2K
被引数: 4.0W
引用论文

引用论文

CKDH: CLIP-Based Knowledge Distillation Hashing for Cross-Modal Retrieval
err2024-07-01
err0
PREAI
errJiaxing Li; Wai Keung Wong; Lin Jiang; Xiaozhao Fang; Shengli Xie; Yong Xu
err分享
err收藏
Multiobjective evolutionary algorithms: A survey of the state of the art
err2011-03-01
err1.8K
PREAI
errZhou, Aimin; Qu, Bo-Yang; Li, Hui; Zhao, Shi-Zheng; Suganthan, Ponnuthurai Nagaratnam; Zhang, Qingfu
err分享
err收藏
An Ensemble Learning Framework for Vehicle Trajectory Prediction in Interactive Scenarios
err2022-06-05
err0
errOAAI
errZirui Li; Yunlong Lin; Cheng Gong; Xinwei Wang; Qi Liu; Jianwei Gong; Chao Lu
err分享
err收藏
A competitive mechanism based multi-objective particle swarm optimizer with fast convergence
err2018-02-01
err0
errOAAI
errXingyi Zhang; Xiutao Zheng; Ran Cheng; Jianfeng Qiu; Yaochu Jin
err分享
err收藏
学者 查看更多内容