AI辅助伦理？考虑AI模拟用于辅助技术的伦理评估和设计
摘要：人工智能在医疗保健领域的使用引发了当前的伦理辩论，将AI视为技术产品的三种方式：首先，通过使用伦理清单评估当前开发的AI产品的风险和潜在利益；其次，通过提出伦理价值的ex ante清单，这些价值被认为在辅助技术的设计和开发中具有相关性；第三，通过推动AI技术在自动化过程中使用道德推理。因此，我们提出了第四种AI方法，即将其作为一种方法论工具来协助伦理反思。我们提供了一个基于三个独立元素的AI模拟的概念: 1）基于行为数据的随机人类行为模型，用于模拟真实环境；2）关于内部政策的定性经验数据的价值陈述；3）帮助理解这些变量变化影响的可视化组件。这种方法的潜力在于提供一个跨学科领域关于具体环境中预期的伦理挑战或伦理权衡的信息，从而激发对设计和实施计划的重新评估。这对于处理极其复杂的价值观和行为或受影响人员（如失智症患者的护理或认知障碍患者的护理）的沟通资源有限的应用可能特别有用。模拟不会取代伦理反思，但在设计过程和实施前允许进行详细的、与情境相关的分析。最后，我们讨论了随机模拟所提供的定量分析方法以及伦理讨论的潜力，以及AI模拟如何改善传统的思想实验和面向未来的技术评估形式。
作者：Silke Schicktanz (1 and 6), Johannes Welsch (1), Mark Schweda (2), Andreas Hein (3), Jochem W. Rieger (4), Thomas Kirste (5) ((1) University Medical Center G"ottingen, Dept. for Medical Ethics and History of Medicine, (2) University of Oldenburg, Department of Health Services Research, Division for Ethics in Medicine, (3) University of Oldenburg, Department of Health Services Research, Division Assistance Systems and Medical Device Technology, (4) University of Oldenburg, Applied Neurocognitive Psychology Lab, (5) University of Rostock, Institute for Visual and Analytic Computing, (6) Hanse-Wissenschaftskolleg, Institute of Advance Studies, Germany)
论文ID：2305.00566
分类：Multiagent Systems
分类简称：cs.MA
提交时间：2023-05-02