日益主动的算法系统带来的伤害
摘要：公平、问责、透明和伦理（Fairness, Accountability, Transparency, and Ethics, FATE）研究已经确定了许多算法伤害的来源和形式，跨越了医疗保健、金融、执法和推荐等不同领域。我们还需要做很多工作来缓解这些系统造成的严重伤害，特别是那些影响弱势社群的不成比例的伤害。尽管如此，新系统正在开发和部署，这些系统威胁到了同样的伤害的持续存在以及新的伤害的产生。作为回应，FATE社群强调了对伤害的预见的重要性。我们的研究专注于对越来越有代理能力的系统的伤害预见。我们并没有提供一个将代理能力定义为二进制属性的定义，而是识别出4个关键特征，尤其是在组合中，这些特征往往增加了给定算法系统的代理能力：规格不明确、直接影响、目标导向和长期规划。我们还讨论了增加代理能力可能导致的重要伤害，特别是这些伤害通常在弱势利益相关者中产生系统性和/或长期影响。我们强调，认识到算法系统的代理能力并不能免除或转移人类对算法伤害的责任。相反，我们使用代理能力这个术语来强调一个越来越明显的事实，即机器学习系统并不完全受人类控制。我们的工作以三个部分探索越来越具有代理能力的算法系统。首先，我们解释了算法系统代理能力增加的概念，结合了不同学科对代理能力的多样化观点。其次，我们主张需要预见越来越具有代理能力的系统可能带来的伤害。第三，我们讨论了越来越具代理能力的系统可能带来的重要伤害以及解决这些伤害的方法。最后，我们反思了我们的工作对预见新兴系统中的算法伤害的意义。
作者：Alan Chan, Rebecca Salganik, Alva Markelius, Chris Pang, Nitarshan Rajkumar, Dmitrii Krasheninnikov, Lauro Langosco, Zhonghao He, Yawen Duan, Micah Carroll, Michelle Lin, Alex Mayhew, Katherine Collins, Maryam Molamohammadi, John Burden, Wanru Zhao, Shalaleh Rismani, Konstantinos Voudouris, Umang Bhatt, Adrian Weller, David Krueger, Tegan Maharaj
论文ID：2302.10329
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-05-15