通过MM算法进行双重范数的数值评估
摘要:计算对偶范数的数值问题是研究稀疏诱导正则化的重要问题(Jenatton等人,2011年, Bach等人,2012年)。对偶范数在优化和统计学习中有应用,例如在工作集策略的设计中,用于描述对偶梯度方法,对偶分解和增广拉格朗日函数的定义等。然而,一些众所周知的稀疏诱导正则化方法的对偶范数在解析上是不可用的。例如,Jenatton等人(2011年)的重叠簇$ell\_2$-范数和Zhou和Hastie(2005年)的弹性网范数。因此,我们采用Lange(2016年)的majorization-minimization原理,提供一个有效的算法,通过对偶约束优化问题的重新参数化,将其转化为带有障碍的无约束优化问题。为了验证操作的正确性和评估所提方法的性能,进行了大量的模拟实验。我们的结果表明,该算法在检索对偶范数的同时,即使在高维情况下也具有较好的效果。
作者:Bernardi Mauro, Marco Stefanucci, Antonio Canale
论文ID:2204.07091
分类:Computation
分类简称:stat.CO
提交时间:2022-04-15