使用快捷测试检测公平医疗AI的快捷学习
摘要：机器学习在改善医疗保健方面具有巨大的潜力，但确保其使用不会传播或放大健康差异非常重要。一个重要的步骤是特征化机器学习模型的(不)公平性，即它们在不同人群子群体中表现不同的倾向，并理解其潜在机制。算法不公平的一个潜在驱动因素是快捷学习，当机器学习模型基于训练数据中的不适当相关性进行预测时，就会出现快捷学习。然而，诊断这种现象是困难的，特别是当敏感属性与疾病有因果关系时。使用多任务学习，我们提出了第一个评估和缓解快捷学习的方法作为临床机器学习系统公平性评估的一部分，并展示了其在放射学和皮肤科临床任务中的应用。最后，我们的方法揭示了快捷方式不负责不公平的实例，突显了在医疗人工智能中公平性缓解需要综合方法的需求。
作者：Alexander Brown, Nenad Tomasev, Jan Freyberg, Yuan Liu, Alan Karthikesalingam, Jessica Schrouff
论文ID：2207.10384
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-09