为什么添加到什么之中？一种日常解释的分析
摘要：人工智能解释中考虑到与专业人士的解释不同，不能假设与非专业人士有共同的专业知识。但人与人之间的解释存在很大差异，这使得跨解释的共同性研究变得困难。我们采用了双重性理论，这是一种技术哲学方法，来应对这些挑战。根据该理论，可以通过关注结构（例如算法的逻辑）或相关性（例如决策的严重性，推荐的影响）来解释人工智能决策。我们使用该理论作为分析框架，对20个游戏解释进行研究。我们详细介绍了如何使用该理论来快速构建和比较技术产品的解释。我们通过分析解释内容的结果，并结合视频回忆的结果，探索解释者对其解释的正当性进行了验证。我们发现，解释者首先关注游戏的物理方面（结构），而后才关注相关性方面。视频回忆中的推理表明，解释者认为最初关注结构对于解释的整体结构是重要的，可以在解释复杂的无形方面之前解释基本组成部分。在解释过程中的转变基于解释的目标，出现的误解和被解释者的知识需求。我们发现了一些共性，这启发了未来的研究问题，如果进一步推广，可以为合成解释的构建提供初步想法。
作者：Lutz Terfloth, Michael Schaffer, Heike M. Buhl, Carsten Schulte
论文ID：2308.04187
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-08-09