一种具有双Tikhonov正则化的Nesterov类型算法:函数值的快速收敛和对最小范数解的强收敛

摘要:具有两个Tikhonov正则化项的Nesterov类型算法的强收敛性质研究——与平滑凸函数$f$的最小化问题相关。我们证明,生成的序列强收敛到$argmin f$中的最小范数元素。我们还表明,从实际角度来看,Tikhonov正则化不会影响Nesterov的最佳收敛速度,该速度的次数为$mathcal{O}(n^{-2})$,其中$n$是由我们的算法生成的序列的势能$f(x_n)-min f$和$f(y_n)-min f$。此外,我们获得了离散速度趋于零的快速收敛,但也获得了生成序列中目标函数梯度值的一些估计。

作者:Mikhail Karapetyants, Szil''ard Csaba L''aszl''o

论文ID:2308.05056

分类:Optimization and Control

分类简称:math.OC

提交时间:2023-08-10

PDF 下载: 英文版 中文版pdf翻译中