.png){kind=icon}
返回
Balancing Fairness and Accuracy in Data-Restricted Binary Classification
.png){kind=icon}
PRE
AI
DOI：10.1145/3747850.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
机器学习（ML）中的公平决策制定仍然是一个关键挑战，尤其是在由于法律、伦理或组织限制导致敏感信息获取受限的情况下。这些限制影响了准确性和公平性，形成了在现实世界中部署ML系统的核心权衡。尽管先前研究探讨了公平性与准确性的权衡，但大多数方法关注模型输出，而非直接考察受限数据访问对公平性的影响。这留下了一个重要空白：理解公平性约束如何在真实数据限制下影响模型性能。为填补这一空白，我们提出了一种框架，明确在数据受限环境中建模公平性与准确性的权衡。与先前研究不同，我们的方法使用数据分布的离散近似分析最优贝叶斯分类器的行为，使我们能够系统地分离公平性约束的影响。我们在三个基准数据集（Adult、Law和Dutch Census）上评估了该框架，揭示了关键见解：（1）在不平衡数据集上强制执行相等准确率可在附加公平性约束下显著降低性能，（2）个体公平性与群体公平性通常施加冲突性约束，（3）敏感属性与特征的去相关化通常不会降低准确率。这些发现表明，我们的框架为从业者提供了一种有效、结构化的方法，用于评估决策流程中的公平性约束。
期刊
IF:
4.8
论文数:
1.3K
被引数:
4.4K
机构
暂无机构信息
.png){kind=icon}
