在多智能体空间交互中测量因果责任与可行行动空间缩减
摘要：多代理空间交互中建模因果责任对于人类与自主代理的交互的安全性和效率至关重要。然而，当前的责任正式度量和模型要么缺乏在道德和哲学概念上的根据，要么不能应用于空间交互。在这项工作中，我们提出了一种度量多代理空间交互下的因果责任的度量方法，例如交通中的交互。在这种交互中，一个特定的代理可以通过减少另一个代理的可行行动空间来影响后者。因此，我们提出可行行动空间缩减(FeAR)作为代理间因果责任的度量标准。具体而言，我们研究了同时行动的事后因果责任。我们提出使用Moves de Rigueur(一组一致的代理设定行动)来模拟规范对责任分配的影响。我们在一个网格世界模拟中应用该度量方法，展示了行动、上下文和规范如何影响被归因给代理的因果责任。最后，我们展示了该度量方法在复杂的多代理交互中的应用。我们认为，FeAR度量方法是朝着一个跨学科的责任量化框架迈出的一步，该框架对于确保人工智能系统在人类控制下安全且有意义至关重要。
作者：Ashwin George, Luciano Cavalcante Siebert, David Abbink and Arkady Zgonnikov
论文ID：2305.15003
分类：Multiagent Systems
分类简称：cs.MA
提交时间：2023-05-25