返回
Grid-based Decision Tree Learning
DOI:10.1007/s10994-026-07165-0.png)
摘要
En 中文
决策树学习算法,如分类与回归树(CART),通常基于贪心最大化纯度增益的启发式方法。尽管这些算法在实践中取得了成功,但其理论性质(如一致性)仍不明确。本文揭示了分析决策树学习算法一致性时的一个重大障碍:最坏情况下纯度增益可能为零,而零增益值通常导致训练误差不收敛。基于这一观察,我们之前的工作引入了GridCART,一种基于网格的决策树,可在Lipschitz平滑性和乘积特征分布下产生正纯度增益并实现一致性。本文将基于网格的构造扩展到随机森林和梯度提升决策树,并为基于网格的随机森林(GridForest)和基于网格的梯度提升决策树(GridGBDT)的平方损失特化建立了收敛率上界。在20个OpenML数据集上的实验表明,基于网格的集成方法与常规方法性能相当。
Keyword:
Decision tree
Consistency
Statistical learning theory
Ensemble learning
Random forest
Gradient boosting decision tree
期刊
IF:
2.9
论文数:
2.7K
被引数:
3.4W

