$L\_{1/2}$ 正则化:迭代半阈值算法的收敛性

摘要:非凸正则化方法在稀疏建模的最近研究中已经被证明可以在稀疏性和效率方面获得很大的好处。然而,与凸正则化方法(如$L_1$正则化)相比,相应算法的收敛问题更难解决。本文针对一种特定但典型的非凸正则化方案,即$L_{1/2}$正则化,解决了这个困难的问题。我们主要研究了迭代半阈值算法(简称为半算法),这是解决$L_{1/2}$正则化问题最高效和最重要的算法之一。作为主要结果,我们证明在一定条件下,半算法收敛到$L_{1/2}$正则化的局部极小值,且具有最终线性收敛速度。所建立的结果为半算法的广泛应用提供了理论保证。我们还提供了一系列模拟来支持理论断言的正确性,并将半算法的时间效率与其他已知的$L_{1/2}$正则化算法(如迭代重加权最小二乘算法和迭代重加权$l_1$最小化算法)进行了比较。

作者:Jinshan Zeng, Shaobo Lin, Yao Wang and Zongben Xu

论文ID:1311.0156

分类:Numerical Analysis

分类简称:cs.NA

提交时间:2015-06-17

PDF 下载: 英文版 中文版pdf翻译中