Efficient active learning using recursive estimation of error reduction

Azamat Mukhamediya

doi:10.1016/j.neucom.2025.130131

Efficient active learning using recursive estimation of error reduction

2025-07-01

0

PRE

AI

DOI：10.1016/j.neucom.2025.130131

原文链接

原文求助

摘要

En 中文

高效标注在大数据时代是一个开放性挑战，因为数据收集的速度远超人类为训练机器学习模型所需标注数据的能力。主动学习(AL)试图通过利用有限的标注预算，从一批未标注数据中寻找最有价值的实例。本文专注于AL的估计误差减少(EER)方法。给定一个初始标注数据集，EER旨在识别候选未标注数据点，这些数据点若与其他标注数据一起用于训练，将最小化误差估计的加权平均值。因此，EER是一种有前景的AL技术，因为它直接考察了标注候选数据点对分类器性能的影响。然而，EER的主要缺点在于其过高的计算成本，因为它需要为每个候选数据点及其所有可能的标签重新训练分类器。针对这一问题，我们提出了一种高效的EER算法，采用基于正则化线性判别分析(Regularized Linear Discriminant Analysis, RLDA)的精确闭式误差估计器(AL-RLDA)进行二分类的情况。同时，我们引入了一种新的EER目标函数，该函数对后验概率估计的依赖性较低。该算法的高效性归因于：(i)使用闭式误差估计器；(ii)为每个候选数据点递归更新估计器表达式。我们使用真实数据的实验结果表明，所提出的方法能够超越基线方法及当前最先进的AL方法。

Keyword:

Active learning

Estimated error reduction

Regularized Linear Discriminant Analysis

Efficient active learning using recursive estimation of error reduction

摘要

期刊

机构