返回
Soft Gradient Boosting With Learnable Feature Transforms for Sequential Regression
DOI:10.1109/LSP.2025.3639345.png)
摘要
En 中文
我们提出了一种用于序列回归的软梯度提升框架,该框架在提升过程中嵌入了可学习的线性特征变换。在每次提升迭代中,我们训练一棵软决策树并共同学习线性输入特征变换$\mathbf {Q}$。该方法在高维、数据稀疏的场景中特别具有优势,因为它能在提升过程中发现最相关的输入表示。我们通过合成数据集和真实数据集的实验表明,我们的方法通过端到端优化特征选择/变换和提升,能够有效且高效地提高性能,同时避免过拟合。我们还扩展了我们的算法以支持可微的非线性变换,前提是过拟合不是问题。为了支持可重复性和未来工作,我们公开分享了我们的代码。
Keyword:
Gradient boosting
sequential regression
soft decision trees

