Measuring Model-Induced Discrimination via Efficient Fairness Approximation

doi:10.1109/tnnls.2026.3706648

Measuring Model-Induced Discrimination via Efficient Fairness Approximation

2026-07-28

0

PRE

AI

DOI：10.1109/tnnls.2026.3706648

原文链接

原文求助

摘要

En 中文

随着机器学习（ML）在现实世界中的广泛应用，关于ML模型中隐藏歧视的担忧日益增长，特别是在高风险领域。评估ML模型歧视程度现有技术包括常用的群体和个体公平性度量。然而，这两种公平性度量通常难以兼容，甚至两种不同的群体公平性度量也可能不兼容。为解决此问题，我们从流形视角调查和评估分类器的歧视程度，并提出一种基于集合间距离的公平性度量“基于流形的调和公平性（HFM）”。然而，直接计算距离可能成本过高，降低其实用性。因此，我们设计了一种名为“集合间距离近似（ApproxDist）”的近似算法以促进距离的准确估计，并在一定合理假设下进一步证明其算法有效性。实验结果表明，所提出的公平性度量HFM能从个体和群体公平性两方面反映偏见，且所提出的ApproxDist有效且高效。

Keyword:

Approximation

distance between sets

fairness measure

machine learning (ML)

metric space

Measuring Model-Induced Discrimination via Efficient Fairness Approximation

摘要

期刊

机构

引用论文