返回
Ensemble learning training strategy based on multi-objective particle swarm optimization and chasing method
DOI:10.1016/j.eswa.2025.127777.png)
摘要
En 中文
集成学习(EL)是一种在现实应用中广泛使用且取得显著成果的方法。然而,由于基模型精度较低或复杂度过高,通过常规方法(如多次数据划分或训练过程)构建的集成模型质量无法得到保证。在现有工作中,平衡预测精度与模型复杂度具有挑战性,因为这两者是对立的因素,且均影响泛化能力。受多目标优化能够生成涉及冲突目标的帕累托解集的启发,提出了一种基于多目标粒子群优化(MOPSO)并结合结合局部搜索的追赶方法的集成学习算法。该算法被称为EL-MOPSO,旨在训练过程中同时平衡多样性、预测精度和模型复杂度。具体而言,将MOPSO引入EL,以生成各种帕累托模型,这些模型在精度和复杂度方面位于MOPSO的近似帕累托前沿(PF)上,用于构建模型池。设计了一种追赶方法,其中MOPSO档案中的解和局部搜索方法产生的解相互追赶,以提高EL-MOPSO生成模型的精度。此外,引入自适应参考向量,用于从模型池中选择适合局部搜索模型集成过程的模型。在42个测试函数上的实验结果证明了EL-MOPSO在预测精度方面优于当前最优方法,EL-MOPSO在28个测试案例中达到了最佳精度。此外,将所提出的方法应用于一个实际材料设计问题,进一步证明了EL-MOPSO算法的能力。结果表明,通过EL-MOPSO训练的集成模型平均误差为0.021,而基于SWA的EL、DREML、IETP-EL以及提升与装袋方法的均方误差(MSE)分别为0.033、0.041、0.023和0.025。
Keyword:
Ensemble learning
Evolutionary algorithm
Multi-objective particle swarm optimization
Local search
期刊
IF:
7.5
论文数:
3.0W
被引数:
10.2W
机构
引用论文
Perspective: Materials informatics and big data: Realization of the fourth paradigm of science in materials science透视: 材料信息学与大数据: 第四科学范式在材料科学中的实现
APL MATERIALS
IF4.5
Adaptive Multiobjective Particle Swarm Optimization Based on Parallel Cell Coordinate System基于并行单元坐标系的自适应多目标粒子群优化算法
Multiobjective Evolutionary Algorithm based on Fast Elite Sampling Strategy and Difference-based Local Search for VRPTW基于快速精英采样策略和基于差异的局部搜索的多目标进化算法用于VRPTW

