带有稀疏诱导范数的结构化变量选择
摘要：线性监督学习的经验风险最小化问题引入了结构稀疏诱导范数的正则化。这些范数是在某些变量子集上的欧几里德范数的求和，扩展了常规的$ell\_1$-范数和组$ell\_1$-范数，允许子集之间有重叠。这导致了这类问题解的一组允许的非零模式。我们首先探索了定义范数的组和得到的非零模式之间的关系，提供了前向和反向算法，可以在组和模式之间来回转换。这可用于根据以非零模式表示的特定先验知识来设计适应性范数。我们还提出了一种高效的主动集算法，并分析了在低维和高维环境下最小二乘线性回归的变量选择的一致性。
作者：Rodolphe Jenatton (INRIA Rocquencourt), Jean-Yves Audibert (INRIA Rocquencourt), Francis Bach (INRIA Rocquencourt)
论文ID：0904.3523
分类：Machine Learning
分类简称：stat.ML
提交时间：2011-11-23