刑事司法系统中的差异进展：差别执法和风险评估工具
摘要：算法风险评估工具（RAIs）在刑事司法决策中的应用越来越多。RAIs主要依赖于逮捕记录作为潜在犯罪的替代指标。问题在于，逮捕程度反映总体犯罪程度的程度可能因个人特征而异。我们研究犯罪和逮捕率之间的脱节会如何影响RAIs及其评估。我们的主要贡献是通过估计与特定人口统计特征相关的未观察到的犯罪数量来量化这种偏差的方法。然后，将这些未观察到的犯罪用于补充真实的逮捕记录，创建部分真实、部分合成的犯罪记录。使用这些数据，我们估计目前使用的四个RAIs对黑人个体的风险评分比类似逮捕记录的白人个体高出0.5-2.8个百分点，但当我们根据半合成的犯罪记录进行匹配时，这个差距扩大到4.5-11.0个百分点。我们最后讨论了使用RAIs可能带来的潜在风险，并强调如果不考虑刑事司法系统的潜在不平等，它们可能加剧现有的不平等。根据我们的研究结果，我们提出了改进这类工具的开发和评估的建议。
作者：Miri Zilka, Riccardo Fogliato, Jiri Hron, Bradley Butcher, Carolyn Ashurst, and Adrian Weller
论文ID：2305.07575
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-05-15