NYTRO：当子采样遇上提前停止
摘要：提早停止是减少大规模学习机训练和模型选择时间复杂度的一种良好方法。另一方面，在许多应用中，内存/空间复杂性（而不是时间复杂性）是主要的限制条件，因此提出了随机子采样技术来解决这个问题。本文探讨了提早停止和子采样思想是否可以结合起来发挥作用。我们在最小二乘回归设置下考虑了这个问题，并提出了一种基于提早停止和子采样的随机迭代正规化形式。在这个背景下，我们分析了所提方法的统计和计算特性。理论结果通过彻底的实验分析得到了补充和验证。
作者：Tomas Angles, Raffaello Camoriano, Alessandro Rudi, Lorenzo Rosasco
论文ID：1510.05684
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-02-02