返回
A granular XGBoost classification algorithm
DOI:10.1007/s10489-025-06762-1.png)
摘要
En 中文
本文首次提出将多距离粒计算与XGBoost相结合,通过丰富的特征表示显著提升小样本场景下的泛化能力。XGBoost(eXtreme Gradient Boosting)是一种主要用于解决分类和回归问题的机器学习算法。它通常依赖数据的原始特征或基础特征工程,未能充分挖掘数据内部的内在结构和相关性。同时,由于小样本数据集存在数据稀疏、类别不平衡以及噪声等问题,其性能往往下降,导致模型泛化能力减弱。本文提出一种粒计算XGBoost分类算法,旨在提升小样本数据集的分类精度。该算法首先通过结合多种特征扩展数据集维度,随后采用多种距离度量进行粒化处理,生成多粒度层级的数据表示,从而形成更丰富、更多样的特征表示。不同粒度层级的特征表示随后分别融合并输入XGBoost分类器进行训练和预测。该方法有助于缓解单一度量带来的偏差和误差,从而实现数据集中各类别表示的更好平衡。实验结果表明,采用多距离度量方法的粒计算XGBoost分类算法在各类数据集上的分类精度较传统XGBoost算法有显著提升,同时增强了其在不同数据集和特征分布下的鲁棒性与泛化能力,为解决小样本数据过拟合问题提供了新的见解和方法。
Keyword:
XGBoost
Granular computing
Multiple distances
Classification
期刊
IF:
3.5
论文数:
7.6K
被引数:
1.7W
机构
引用论文
Granular ball computing classifiers for efficient, scalable and robust learning颗粒球计算分类器,用于高效、可扩展和稳健的学习
Relational interpretations of neighborhood operators and rough set approximation operators邻域算子与粗糙集近似算子的关系解释

