在不确定性条件下分析自主代理的有意行为
摘要：在不确定环境中对自主决策进行原则性问责要求区分有意的结果、不慎的设计和实际的事故。我们提出通过量化的有意行为证据来分析自主代理的行为。我们将不确定环境建模为马尔可夫决策过程（MDP）。对于给定的情景，我们依赖于概率模型检查来计算代理对达到某个事件的影响能力。我们将此称为代理的行动范围。如果行动范围较大且代理的决策接近于实现事件的最佳状态，我们认为存在有意的行为证据。我们的方法应用反事实推理来自动生成相关情景，并进行分析以增加我们评估的置信度。通过案例研究，我们展示了我们的方法如何区分“有意的”和“意外的”交通碰撞。
作者：Filip Cano C''ordoba, Samuel Judson, Timos Antonopoulos, Katrine Bj{o}rner, Nicholas Shoemaker, Scott J. Shapiro, Ruzica Piskac and Bettina K"onighofer
论文ID：2307.01532
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-07-06