EP-GIG先验在贝叶斯稀疏学习中的应用
摘要:稀疏诱导先验构建的新型框架:混合指数幂分布和广义逆高斯密度(EP-GIG)。EP-GIG是广义双曲线分布的变体,特殊情况包括高斯尺度混合和拉普拉斯尺度混合。此外,拉普拉斯尺度混合可以用于非凸惩罚的贝叶斯稀疏学习。EP-GIG的密度可以明确地表示。此外,相应的后验分布也服从广义逆高斯分布。这些特性使我们可以使用EM算法进行贝叶斯稀疏学习。我们展示了这些算法与迭代重新加权的$ell\_2$或$ell\_1$方法有有趣的相似之处。此外,我们还提出了两种扩展方法:变量分组选择和逻辑回归。
作者:Zhihua Zhang, Shusen Wang, Dehua Liu and Michael I. Jordan
论文ID:1204.4243
分类:Machine Learning
分类简称:stat.ML
提交时间:2012-04-20