近似牛顿法
摘要：大规模优化问题在大数据应用中是非常重要的。近年来，由于每次迭代的效率高，次采样牛顿方法引起了广泛的关注，改进了普通牛顿方法在每次迭代中的高成本问题，同时具有较高的收敛速度。其他高效的随机二阶方法也被提出。然而，这些方法的收敛性质仍然不够清楚，当前的收敛理论与实际应用的性能之间存在关键差距。本文旨在填补这些差距。我们提出了一个统一的框架，分析二阶方法的局部和全局收敛性质。基于这个框架，我们提出了与实际应用性能相匹配的理论结果。
作者：Haishan Ye, Luo Luo, Zhihua Zhang
论文ID：1702.08124
分类：Numerical Analysis
分类简称：cs.NA
提交时间：2020-03-24