经验伯恩斯坦界和样本方差惩罚
摘要：改进了数据相关性和方差敏感置信区间（称为经验伯恩斯坦界限）的常数，并将这些不等式扩展到在样本大小n中多项式成长函数的函数类上均成立。这些界限使我们考虑了样本方差惩罚，这是一种考虑损失函数的经验方差的新型学习方法。我们给出了样本方差惩罚有效的条件。特别是，我们给出了该方法所产生的过度风险的界限。利用这一点，我们论证了在某些情况下，我们方法的过度风险为1/n的阶，而经验风险最小化的过度风险为1/√n的阶。我们展示了一些实验结果，以确认这个理论。最后，我们讨论了将结果应用于样本压缩方案的潜在应用。
作者：Andreas Maurer and Massimiliano Pontil
论文ID：0907.3740
分类：Machine Learning
分类简称：stat.ML
提交时间：2009-07-23