支持向量机变种及其他正则化核方法的渐近正态性
摘要:非参数分类和回归问题中,正则化核方法,特别是支持向量机,在理论和应用统计学中引起了很大关注。在抽象意义上,正则化核方法(简称SVM)可以被看作是(通常是无限维的)再生核希尔伯特空间中参数的正则化M估计。对于平滑的损失函数,证明了估计器即经验SVM与理论SVM之间的差异具有渐近正态分布,收敛速度为sqrt{n}。也就是说,标准化差异在再生核希尔伯特空间中弱收敛到一个高斯过程。与实际应用中一样,正则化参数的选择可能取决于数据。通过应用函数 δ-方法和证明SVM函数可适当哈达马可微,完成了证明。
作者:Robert Hable
论文ID:1010.0535
分类:Machine Learning
分类简称:stat.ML
提交时间:2011-04-13