鲁棒优化的统计学:广义经验似然方法

摘要:随机优化问题的统计推断和分布健壮解决方法的研究,重点关注最优值的置信区间和渐近达到精确覆盖的解决方案。我们基于非参数$f$-divergence球构建的分布不确定性集合,以Hadamard可微分泛函为基础,特别是随机优化问题,发展了一个广义经验似然框架。作为这个理论的结果,我们提供了一种有原则的方法来选择分布不确定性区域的大小,以提供达到精确覆盖的单侧和双侧置信区间。我们还给出了我们的分布健壮形式的渐近展开,展示了如何通过方差调整问题来实现强健性。最后,我们证明了我们研究的分布健壮形式的优化器具有与经典样本均值逼近中的优化器基本相同的一致性属性。我们的一般方法适用于快速混合的平稳序列,包括几何有限的Harris相互转换的马尔可夫链。

作者:John Duchi, Peter Glynn, Hongseok Namkoong

论文ID:1610.03425

分类:Machine Learning

分类简称:stat.ML

提交时间:2018-07-03

PDF 下载: 英文版 中文版pdf翻译中