延迟观察下的安全屏障
摘要：处理输入和输出信号的延迟是在物理环境中操作的代理程序需要具备的能力，因为数据传输、感知或操控环境都不是瞬时的。"Shield" 是一种构造正确的运行时强制器，通过修正可能引发违反形式安全规范的任何行为来保证安全执行。除了提供安全保证之外，"Shield" 应该最小化对代理程序的干扰。因此，"Shield" 应该以最小化未来干扰的方式选择安全的修正行动。当前的屏蔽方法在安全性分析中未考虑输入信号的延迟。本文就此问题进行了研究，我们提出了合成算法来计算能够在输入信号延迟的最坏情况下保证安全的"延迟韧性屏蔽器"。我们还引入了针对多个修正行动的决策的新启发式方法，旨在最小化由延迟引起的未来屏蔽干扰。作为进一步的贡献，我们首次将"Shield" 集成到一个逼真的驾驶模拟器中。我们在驾驶模拟器"Carla"中实现了我们的延迟屏蔽器。我们在不同的安全关键场景中屏蔽可能存在风险的自动驾驶代理，并展示延迟对安全分析的影响。
作者：Filip Cano C''ordoba, Alexander Palmisano, Martin Fr"anzle, Roderick Bloem, Bettina K"onighofer
论文ID：2307.02164
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-07-06