.png){kind=icon}
返回
Fairness and transparency in ML: a methodological framework
.png){kind=icon}
OA
AI
DOI：10.1038/s41598-026-62692-z.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
随着人工智能和机器学习应用在公共组织中的日益普及，在部署前需要进行技术流程来审计模型行为、记录局限性并缓解可衡量的差异。本研究提出了一种针对监督分类的公平性审计与偏差缓解的方法论框架，强调跨群体的误差差异而非全面解决人工智能伦理问题。该框架通过基于智利公共刑事辩护办公室（DPP）数据的两项实验进行说明，任务为预测刑事案件对被告是有利还是不利结果。每项实验比较了基础模型与改进模型，后者采用了重加权、类别加权、阈值优化、可解释性分析和文档记录。公平性通过群体层面的误差指标进行操作化，特别是假阴性率（FNR）、假遗漏率（FOR）和真正例率（TPR），并使用地区作为地理代理属性。结果显示，缓解措施能够减少选定差异，但也揭示了明显的公平性与性能权衡。在毒品贩运实验中，稿件层面的混淆矩阵显示FNR从40.54%降至31.63%，而FPR从0.13%增至39.25%。统计比较基于本文报告的混淆矩阵计数计算得出，因此以汇总的两比例比较形式呈现，而非配对McNemar检验。该框架应被视为技术审计和缓解流程，而非证明所得模型适合实际法律决策的证据。
