支持向量机用于加法模型：一致性和鲁棒性
摘要：支持向量机（SVM）是一种特殊的基于核函数的方法，已经成为最成功的学习方法之一超过十年。SVM可以形式上地描述为一种对函数进行正则化的M-估计器，并在许多复杂的实际问题中证明了其有效性。在过去的几年中，统计学研究对SVM的很大一部分集中在如何设计SVM，使其在非参数分类或非参数回归问题上具有普遍一致性和统计鲁棒性。在许多应用中，对分布P或待估计的未知函数f的一些定性先前知识存在，或者需要具有良好可解释性的预测函数，因此，半参数模型或可加性模型是感兴趣的。 在本文中，我们主要讨论如何通过选择再生核希尔伯特空间（RKHS）或其相应的核函数来设计支持向量机，以获得一致且统计鲁棒的可加性模型估计器。我们给出了核函数的显式构造 - 以及它们的RKHS - 与Lipschitz连续损失函数相结合，可以获得一致且统计鲁棒的用于可加性模型的SVM。例如，基于pinball损失函数的分位回归，基于ε-insensitive损失函数的回归，以及基于hinge损失函数的分类。
作者：Andreas Christmann, Robert Hable
论文ID：1007.4062
分类：Machine Learning
分类简称：stat.ML
提交时间：2010-07-26