返回
An Efficient and Accurate Random Forest Node-Splitting Algorithm Based on Dynamic Bayesian Methods
DOI:10.3390/make7030070.png)
摘要
En 中文
随机森林是广泛应用于分类和回归任务的强大机器学习模型,因其稳健的预测性能。然而,传统随机森林在构建树的过程中面临计算挑战,特别是在高维数据或资源受限设备上。本文提出了一种新颖的节点分裂算法BayesSplit,通过基于贝叶斯的不纯度估计框架加速决策树的构建。BayesSplit将不纯度减少视为具有Beta共轭先验的伯努利事件,并整合了两种主要策略。首先,动态后验参数精化根据批量迭代中观察到的不纯度减少更新Beta参数;其次,后验衍生置信界建立统计置信区间,高效地过滤掉次优分裂点。理论分析表明,BayesSplit以高概率收敛于最优分裂点,而实验结果显示,与基线相比,训练时间最多减少95%,同时保持或超过泛化性能。与当前最优的MABSplit相比,BayesSplit在分类任务上达到相似精度,并将回归训练时间减少20%–70%,同时降低MSE。此外,BayesSplit将特征重要性的稳定性提升高达40%,使其特别适用于计算受限环境中的部署。
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
M
IF:
6
论文数:
839
被引数:
1.8K
机构
引用论文
An improved random forest based on the classification accuracy and correlation measurement of decision trees基于决策树分类精度和相关性度量的改进随机森林
Li, X.; Wang, Y.; Basu, S.; Kumbier, K.; Yu, B. A Debiased MDI Feature Importance Measure for Random Forests. In Proceedings of the Advances in Neural Information Processing Systems, Vancouver, BC, Canada, 8–14 December 2019; Volume 32, pp. 8049–8059. [Google Scholar] [CrossRef]Li, X.; Wang, Y.; Basu, S.; Kumbier, K.; Yu, B. 一种用于随机森林的消偏MDI特征重要性度量。刊载于《神经信息处理系统进展》会议论文集,加拿大温哥华,BC省,2019年12月8–14日;卷32,第8049–8059页。 [Google Scholar] [CrossRef]
A flexible and efficient FPGA-based random forest architecture for IoT applications
INTERNET OF THINGS
IF7.6

