返回
Meta additive model: interpretable sparse learning with auto weighting
DOI:10.1007/s10618-026-01274-z.png)
摘要
En 中文
稀疏加性模型因其灵活的表示和强大的可解释性,在**高维数据分析**中已引起广泛关注。然而,现有模型大多在**均方误差**准则下局限于单层学习,当存在复杂噪声(如非高斯扰动、异常值、噪声标签和类别不平衡)时,其实际性能会显著下降。**样本加权**策略被广泛用于降低模型对非典型数据的敏感性,但通常需要预先指定加权函数并手动选择额外超参数。为解决此问题,我们基于**双层优化**框架提出了一种新的**元加性模型(MAM)**,通过在**元数据**上训练的**MLP**参数化加权函数,学习个体损失的数据驱动权重。MAM能够处理多种学习任务,包括**变量选择**、**稳健回归估计**和**不平衡分类**。理论上,MAM在温和条件下能保证优化收敛、算法泛化和变量选择一致性。实验上,MAM在**合成数据**和**真实数据**的各种污染类型下均优于多个**当前最优**加性模型。实现代码可在 https://github.com/zxlml/MAM 获取。
Keyword:
Additive model
Bilevel optimization
Interpretability
Learning theory
期刊
IF:
4.3
论文数:
224
被引数:
6.0K
机构
暂无机构信息
引用论文
GAMI-Net: An explainable neural network based on generalized additive models with structured interactionsGami-net: 基于具有结构化交互作用的广义加性模型的可解释神经网络
PATTERN RECOGNITION
IF7.6
DOUBLY PENALIZED ESTIMATION IN ADDITIVE REGRESSION WITH HIGH-DIMENSIONAL DATA
ANNALS OF STATISTICS
IF3.7
An accelerated proximal algorithm for regularized nonconvex and nonsmooth bi-level optimization正则化非凸非光滑双层优化的加速近端算法
MACHINE LEARNING
IF2.9

