arrow
返回

Grid-based Decision Tree Learning

delete2026-10-08
delete0
PRE
AI
Q
Qin-Cheng Zheng
S
Shao-Qun Zhang
S
Shen-Huan Lyu
Y
Yuan Jiang
Z
Zhi-Hua Zhou *
DOI:10.1007/s10994-026-07165-0delete
delete原文链接
delete分享
delete收藏
摘要

摘要

En 中文
决策树学习算法,如分类与回归树(CART),通常基于贪心最大化纯度增益的启发式方法。尽管这些算法在实践中取得了成功,但其理论性质(如一致性)仍不明确。本文揭示了分析决策树学习算法一致性时的一个重大障碍:最坏情况下纯度增益可能为零,而零增益值通常导致训练误差不收敛。基于这一观察,我们之前的工作引入了GridCART,一种基于网格的决策树,可在Lipschitz平滑性和乘积特征分布下产生正纯度增益并实现一致性。本文将基于网格的构造扩展到随机森林和梯度提升决策树,并为基于网格的随机森林(GridForest)和基于网格的梯度提升决策树(GridGBDT)的平方损失特化建立了收敛率上界。在20个OpenML数据集上的实验表明,基于网格的集成方法与常规方法性能相当。
Keyword:
Decision tree
Consistency
Statistical learning theory
Ensemble learning
Random forest
Gradient boosting decision tree

期刊

Machine Learning 封面图
Machine Learning
IF:
2.9
论文数:
2.7K
被引数:
3.4W

机构

N
National Key Laboratory for Novel Software Technology
学者数:
4
论文数: 2
被引数: 0
引用论文

引用论文

err1995-01-01
err0
errOAAI
errCarla E. Brodley; Paul E. Utgoff
err分享
err收藏
Analysis of Boolean Functions
err
IF0
err2014-07-05
err0
errOAAI
errRyan O'Donnell
err分享
err收藏
err分享
err收藏
Concentration Inequalities
err
IF0
err2013-02-07
err0
PREAI
errStéphane Boucheron; Gábor Lugosi; Pascal Massart
err分享
err收藏
err分享
err收藏
学者 查看更多内容