Procedural Fairness in Machine Learning

doi:10.1613/jair.1.20498

Procedural Fairness in Machine Learning

2026-04-07

0

PRE

AI

DOI：10.1613/jair.1.20498

原文链接

原文求助

摘要

En 中文

机器学习（ML）中的公平性已引起广泛关注。然而，当前研究主要集中于机器学习模型的分配公平性，对公平性的另一维度，即程序公平性关注有限。本文首先借鉴哲学和心理学领域对程序公平性的已有理解，定义了机器学习模型的程序公平性，并给出了个体和群体程序公平性的形式化定义。在此基础上，我们进一步提出了一种新型指标来评估机器学习模型的群体程序公平性，称为GPFFAE，该指标利用广泛使用的可解释人工智能技术——特征归因解释（FAE）来捕捉机器学习模型的决策过程。我们在合成数据集和八个真实数据集上验证了GPFFAE的有效性。我们的实验研究揭示了机器学习模型中程序公平性与分配公平性之间的关系。在验证了评估机器学习模型程序公平性的指标后，我们接着提出了一种识别导致模型程序不公平的特征的方法，并基于识别出的不公平特征提出了两种改进程序公平性的方法。实验结果表明，我们可以准确识别导致机器学习模型程序不公平的特征，并且我们提出的两种方法均能在显著改善程序公平性的同时提高分配公平性，仅以轻微牺牲模型性能为代价。

Procedural Fairness in Machine Learning

摘要

期刊

机构

引用论文