正则化最小二乘算法的Sobolev范数学习速率
摘要：学习率对于最小二乘回归通常以L2范数的形式表示。在本文中，我们扩展了这些率到比L2范数更强的范数，而不需要回归函数包含在假设空间中。在假设空间中使用的Sobolev再生核希尔伯特空间的特殊情况下，这些更强的范数与使用的Sobolev空间和L2之间的分数Sobolev范数一致。因此，不仅可以估计目标函数，还可以估计一些导数而不改变算法。从技术角度来看，我们将众所周知的积分算子技术与嵌入特性结合在一起，这种结合迄今只与经验过程参数一起使用过。这种组合结果得到了有关更强范数的有限样本界限。从这些有限样本界限可以很容易地得到我们的学习率。最后，我们证明了我们的结果在许多情况下的渐近最优性。
作者：Simon Fischer and Ingo Steinwart
论文ID：1702.07254
分类：Machine Learning
分类简称：stat.ML
提交时间：2020-10-27