人工智能中的公平性和偏见：来源、影响和缓解策略的简要调查
摘要：人工智能在医疗决策、医学诊断和其他领域的应用取得了显著进展，但同时也引发了人们对人工智能系统的公平性和偏见的关切，特别是在医疗、就业、刑事司法和信用评分等领域。这些系统可能导致不公平的结果，延续现有的不平等现象。本调查论文提供了关于人工智能中公平性和偏见的简明、全面的概述，对其来源、影响和缓解策略进行了讨论。我们审查了数据、算法和人类决策偏见等偏见的来源，并评估了偏见人工智能系统的社会影响，重点关注不平等现象的持续和有害刻板印象的强化。我们探讨了各种提出的缓解策略，并讨论了其实施的伦理考虑，并强调了确保有效性所需的跨学科合作的必要性。通过对多个学术领域进行系统的文献综述，我们提出了人工智能偏见的定义及其不同类型，并讨论了人工智能偏见对个人和社会的负面影响。我们还概述了目前缓解人工智能偏见的方法，包括数据预处理、模型选择和后处理。解决人工智能中的偏见需要一种全面的方法，涉及多样化和代表性的数据集、增强人工智能系统的透明度和问责制，并探索优先考虑公平和伦理问题的替代人工智能范例。本调查为开发公平和无偏的人工智能系统的持续讨论提供了关于人工智能偏见来源、影响和缓解策略的概述。
作者：Emilio Ferrara
论文ID：2304.07683
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-04-18