.png){kind=icon}
返回
Fairness in Algorithmic Profiling: The AMAS Case
.png){kind=icon}
OA
AI
DOI：10.1007/s11023-024-09706-9.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
我们研究了算法画像在公共部门的一个有争议的应用——奥地利AMAS系统。AMAS本应帮助奥地利公共就业服务（PES）的工作人员，根据求职者被预测的（再）融入劳动力市场的机会，来分配支持措施。该系统发布后不久，就因其明显基于性别和国籍对求职者进行不平等对待而受到批评。我们使用来自维也纳青年求职者的一个新颖的真实世界数据集，系统地调查了AMAS模型，这使我们能够首次对该模型进行实证评估，并重点关注公平性指标。此外，我们还应用了偏见缓解策略，以研究其在真实场景中的有效性。我们的发现表明，AMAS模型的预测性能不足以在实际中使用，因为在我们的用例中，超过30%的求职者会被错误分类。此外，我们的结果证实，原始模型在性别方面存在偏见，因为它倾向于（错误地）将女性分配到再就业机会高的组别，而该组别在PES的支持措施分配中并未被优先考虑。然而，大多数偏见缓解策略能够在不损害性能的情况下改善公平性，因此可能成为当前背景下修订画像方案的重要基石。
Keyword:
Algorithmic profiling
Statistical discrimination
Public employment services
Artificial intelligence
Bias mitigation
期刊
IF:
3.4
论文数:
101
被引数:
2.3K
机构
暂无机构信息
引用论文
Certifying and Removing Disparate Impact.png)
Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining
OAAI
Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data MiningIF0
OAAI分享收藏分享收藏
查看更多内容