通过反事实路径解释和可视化黑盒模型
摘要：基于特征的可解释人工智能(XAI)是机器学习研究中越来越重要的领域，旨在使黑盒模型透明和可解释。本文提出了一种新颖的XAI方法，利用条件排列生成的所谓反事实路径。该算法通过识别在模型预测变化中最具影响力的特征的连续排列来衡量特征重要性。它特别适用于基于包含领域知识的知识图谱的反事实路径生成解释。反事实路径在解释和可视化黑盒模型中引入了一个额外的图维度。对合成和医疗数据的实验证明了我们方法的实际适用性。
作者：Bastian Pfeifer, Mateusz Krzyzinski, Hubert Baniecki, Anna Saranti, Andreas Holzinger, Przemyslaw Biecek
论文ID：2307.07764
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-08-02