关于一类复合优化问题的最优下界和上界复杂度限制
摘要：找到复合问题min_x f(x)+h(Ax-b)的近似解的下界和上界的最优复杂性。给定对h的近端算子的访问权限，对于强凸、凸和非凸f，我们设计了具有以下复杂性的高效一阶算法：$ilde{O}left(kappa_Asqr{kappa_f}logleft(1/{epsilon} right) right)$、$ilde{O}left(kappa_Asqr{L_fr/D/sqrt{epsilon} right)$和$ilde{O}left(kappa_A L_fDelta/epsilon^2 right)$。这里，$kappa_A$是构成中矩阵A的条件数，$L_f$是f的平滑常数，$kappa_f$是在强凸情况下f的条件数。D是初始点距离，$Delta$是初始函数值差距。还推导了这三种情况的下界，它们与上界相匹配，直到对数因子，从而证明了本文提出的上界和下界的最优性。
作者：Zhenyuan Zhu, Fan Chen, Junyu Zhang, Zaiwen Wen
论文ID：2308.06470
分类：Optimization and Control
分类简称：math.OC
提交时间：2023-08-15