arrow
返回

An Efficient and Accurate Random Forest Node-Splitting Algorithm Based on Dynamic Bayesian Methods

delete2025-09-18
delete0
delete
OA
AI
J
Jun He
Z
Zhanqi Li
L
Linzi Yin *
DOI:10.3390/make7030070delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
随机森林是广泛应用于分类和回归任务的强大机器学习模型,因其稳健的预测性能。然而,传统随机森林在构建树的过程中面临计算挑战,特别是在高维数据或资源受限设备上。本文提出了一种新颖的节点分裂算法BayesSplit,通过基于贝叶斯的不纯度估计框架加速决策树的构建。BayesSplit将不纯度减少视为具有Beta共轭先验的伯努利事件,并整合了两种主要策略。首先,动态后验参数精化根据批量迭代中观察到的不纯度减少更新Beta参数;其次,后验衍生置信界建立统计置信区间,高效地过滤掉次优分裂点。理论分析表明,BayesSplit以高概率收敛于最优分裂点,而实验结果显示,与基线相比,训练时间最多减少95%,同时保持或超过泛化性能。与当前最优的MABSplit相比,BayesSplit在分类任务上达到相似精度,并将回归训练时间减少20%–70%,同时降低MSE。此外,BayesSplit将特征重要性的稳定性提升高达40%,使其特别适用于计算受限环境中的部署。
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

M
Machine Learning and Knowledge Extraction
IF:
6
论文数:
839
被引数:
1.8K

机构

C
Central South University
学者数:
10.0W
论文数: 7.2W
被引数: 10.9W
引用论文

引用论文

err分享
err收藏
A flexible and efficient FPGA-based random forest architecture for IoT applications
err2023-07-01
err13
PREAI
errDinh, Trung Pham; Pham-Quoc, Cuong; Thinh, Tran Ngoc; Nguyen, Binh Kieu Do; Kha, Pham Cong
err分享
err收藏
A Tutorial on Thompson Sampling
err2018-01-01
err0
errOAAI
errDaniel J. Russo; Benjamin Van Roy; Abbas Kazerouni; Ian Osband; Zheng Wen
err分享
err收藏
err分享
err收藏
学者 查看更多内容