在二值激活神经网络中追求可解释性和可解释性
摘要：二进制激活神经网络作为可解释和可解释的预测器在表格数据的回归任务中的应用; 更具体地说，我们提供了关于它们表达能力的保证，并提出了一种基于SHAP值的有效计算方法，用于量化特征、隐藏神经元甚至权重的相对重要性。由于模型的简单性对于实现可解释性至关重要，我们提出了一种贪婪算法来构建紧凑的二进制激活网络。该方法不需要预先确定网络的体系结构：它逐层逐神经元地构建，从而得到对于给定任务而言不不必要复杂的预测器。
作者：Benjamin Leblanc and Pascal Germain
论文ID：2209.03450
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-09-01