Toward a Fairness-Aware Scoring System for Algorithmic Decision-Making

Yi Yang

doi:10.1177/10591478251318918

Toward a Fairness-Aware Scoring System for Algorithmic Decision-Making

2025-01-30

0

PRE

AI

DOI：10.1177/10591478251318918

原文链接

原文求助

摘要

En 中文

评分系统作为一种预测模型，在可解释性和透明度方面具有显著优势，并有助于快速决策。因此，评分系统已在医疗保健、刑事司法等多个行业中得到广泛应用。然而，这些模型中的公平性问题长期受到批评，而大数据和机器学习（ML）算法在评分系统构建中的应用加剧了这一担忧。本文提出了一种通用的框架，用于创建公平意识、数据驱动的评分系统。首先，我们开发了一个社会福利函数，该函数同时包含效率和群体公平性。然后，我们将社会福利最大化问题转化为机器学习中的风险最小化任务，并在混合整数规划的帮助下推导出公平意识的评分系统。最后，推导出若干理论边界，以提供参数选择的建议。我们提出的框架为解决评分系统开发中的群体公平性担忧提供了合适的解决方案。它使政策制定者能够设定和定制其期望的公平性要求以及其他特定应用的约束条件。我们使用多个经验数据集测试了所提出的算法。实验证据支持所提出的评分系统在实现利益相关者的最优福利以及平衡可解释性、公平性和效率方面的有效性。

Keyword:

Fairness

Machine Learning

Scoring System

Mixed-Integer Programming

Toward a Fairness-Aware Scoring System for Algorithmic Decision-Making

摘要

期刊

机构