有限分类模型的精确核等价性
摘要:神经网络与核方法之间的等价性探索:通过将任何使用梯度下降训练的有限参数分类模型的第一个精确表示推导为核函数机器,我们探索了神经网络与核方法之间的等价性。我们将我们的精确表示与众所周知的神经切向核(NTK)进行比较,并讨论与NTK和其他非精确路径核表述相对的近似误差。我们通过实验证明,可以以机器精度计算实际网络的核。我们利用这个精确核来展示我们的理论贡献可以提供有关神经网络预测的有用见解,特别是它们的泛化方式。
作者:Brian Bell, Michael Geyer, David Glickenstein, Amanda Fernandez, Juston Moore
论文ID:2308.00824
分类:Machine Learning
分类简称:cs.LG
提交时间:2023-08-10