可定义在o-minimal结构中的函数的梯度方法的全局收敛
摘要：变步长梯度法对可在实域中定义的o-极小结构上的可微函数进行最小化。我们证明，如果连续梯度轨迹有界，则全局收敛性成立，并且最小梯度范数以$o(1/k)$的速率趋于零，如果步长大于一个正常数。如果此外，梯度连续可微，所有的鞍点都是严格的，并且步长是常数，则在任何有界的初始点集上几乎必然收敛到局部最小值。
作者：C''edric Josz
论文ID：2303.03534
分类：Optimization and Control
分类简称：math.OC
提交时间：2023-07-27