广义 DC 编程的统一 Bregman 交替最小化算法及其在图像数据中的应用

摘要:广义DC(凸差函数)规划是一个非凸(不一定可微)优化问题的类别,本文考虑了这种问题,并试图通过引入一种统一的Bregman交替最小化算法(UBAMA)来克服这种问题的非凸性和非可分性。我们首先按照交替最小化的思路,按顺序更新每个块变量,以有效地处理耦合函数造成的不可分性。然后,我们利用Fenchel-Young不等式来近似第二个DC组分(凹函数部分),使得每个子问题都化简为一个凸优化问题,从而减轻了非凸DC部分的计算负担。此外,每个子问题还吸收了Bregman近端正则化项,通过选择适当的Bregman核函数,通常有助于诱导许多情况下子问题的封闭形解。我们的算法不仅提供了理解一些新颖现有算法的迭代方案的算法框架,还比一些为通用非凸和非光滑优化问题开发的一阶最优算法具有更容易的可实施方案。在理论上,我们证明了在Kurdyka-Lojasiewicz(KL)条件下,我们的算法生成的序列全局收敛于一个临界点。此外,当我们进一步知道KL指数的先验信息时,我们估计了我们的算法的局部收敛速度。

作者:Hongjin He and Zhiyuan Zhang

论文ID:2209.07323

分类:Optimization and Control

分类简称:math.OC

提交时间:2023-08-07

PDF 下载: 英文版 中文版pdf翻译中