一般非参数回归和分类的正则化核方法的渐近置信集
摘要：正则化核方法，如支持向量机和最小二乘支持向量回归，是机器学习中一类重要的标准学习算法。近年来，关于渐近性质的理论研究主要集中在收敛速度上，但目前关于统计推断的结果非常有限。鉴于这对于它们在数学统计中的使用是一个严重的限制，本文的目标是填补这个空白。基于这些方法中许多的渐近正态性，本文推导出了未知协方差矩阵的强一致估计量。通过这种方式，我们得到了关于$f_{P,lambda_0}$的渐近正确的置信区间，其中$f_{P,lambda_0}$表示再生核希尔伯特空间$H$中正则化风险的最小化器，$psi:H\rightarrow \mathbb{R}^m$是任意可导函数。应用包括值$f_{P,lambda_0}$的(多维)逐点置信区间，以及梯度、积分和范数的置信区间。
作者：Robert Hable
论文ID：1203.4354
分类：Machine Learning
分类简称：stat.ML
提交时间：2012-03-21