Generalized robust loss function driven learning framework for pattern recognition

Jun Ma

doi:10.1016/j.neunet.2026.108945

2026-04-13

PRE

Jun Ma *

Fa Wang

DOI：10.1016/j.neunet.2026.108945

原文链接

原文求助

摘要

En 中文

本研究引入一种新颖的半代数广义鲁棒损失函数R(x)，整合了Kurdyka-Łojasiewicz(KL)性质，专为鲁棒模式分类设计。所提出的损失函数独特地结合混合损失机制，以在微小误差的敏感性与对抗离群值的鲁棒性之间实现最优权衡，同时保持计算效率。在M估计框架内，其鲁棒性通过影响函数的有界性分析得到严格证明。将R(x)扩展至孪生支持向量机(TWSVM)框架，我们开发了广义鲁棒TWSVM(GR-TSVM)用于分类任务。为解决所得的非凸、非光滑优化问题，采用乘子交替方向法(ADMM)，将问题分解为闭式超平面更新和松弛变量的近端梯度步骤。理论上，我们建立了收敛性保证，并证明目标函数满足KL性质，确保优化过程的稳定与可靠。连接鲁棒统计学习与高效优化，GR-TSVM克服了二次损失函数的局限性，通过融合理论严谨性与计算可行性推进了模式分类。在基准数据集上的广泛比较实验验证了所提方法，其相较于传统鲁棒学习范式在分类准确性和鲁棒性指标上均显示出统计学上的显著改进。重现所有实验所需的代码公开可获取于https://github.com/junma1990-max/GR-TSVM-MATLAB-Demo.git。

Keyword:

robust loss function

pattern classification

Kurdyka-Łojasiewicz property

twin support vector machine

M-estimation