神经网络模型的相似性：功能和表示度量的调研
摘要：测量神经网络的相似性以理解和改进其行为已成为一个极为重要和受到研究关注的问题。在这份调查中，我们对衡量神经网络相似性的两种互补观点进行了全面概述：（i）表示相似性，考虑中间层激活的差异；（ii）功能相似性，考虑模型输出的差异。除了提供现有度量方法的详细描述外，我们还总结和讨论了这些度量方法的属性和关系，并指出了开放的研究问题。我们希望我们的工作为神经网络模型的相似性度量的属性和适用性更加系统化的研究奠定基础。
作者：Max Klabunde, Tobias Schumacher, Markus Strohmaier, Florian Lemmerich
论文ID：2305.06329
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-08