在可信赖的医疗人工智能发展中，信息治理作为一种社会技术过程
摘要：为了开发可信赖的医疗人工智能（AI）前景和人工学研究，需要考虑AI系统在现实世界应用中的复杂性和真实性。为了实现这一目标，技术开发人员和部署机构需要建立合作伙伴关系。这涉及到接触医疗数据，这些数据往往可能包括呼叫救护服务中心的音频记录等可能可识别的数据。信息治理（IG）流程已经建立，以对个人机密数据的使用进行管理。然而，在AI开发和部署前期阶段，导航IG流程可能是具有挑战性的，因为数据共享的法律依据仅明确用于提供患者护理，即一旦系统投入使用。在本文中，我们描述了在威尔士救护服务背景下管理医疗AI保证的IG经验，以医院外急性心脏骤停识别软件为例。我们将IG作为一种社会技术过程来界定。为了开发可信赖的医疗AI，IG流程依赖于信息治理工作，其中包括关于数据共享的法律依据、数据需求和数据控制的对话、协商和权衡。信息治理工作应在设计生命周期的早期开始，并可能持续进行。这包括关注建立和发展关系，以及关注组织准备工作，更深入地了解AI技术以及其安全保证要求。
作者：Nigel Rees, Kelly Holding, Mark Sujan
论文ID：2301.10007
分类：Computers and Society
分类简称：cs.CY
提交时间：2023-03-20