EP-GIG先验在贝叶斯稀疏学习中的应用

摘要:稀疏诱导先验构建的新型框架:混合指数幂分布和广义逆高斯密度(EP-GIG)。EP-GIG是广义双曲线分布的变体,特殊情况包括高斯尺度混合和拉普拉斯尺度混合。此外,拉普拉斯尺度混合可以用于非凸惩罚的贝叶斯稀疏学习。EP-GIG的密度可以明确地表示。此外,相应的后验分布也服从广义逆高斯分布。这些特性使我们可以使用EM算法进行贝叶斯稀疏学习。我们展示了这些算法与迭代重新加权的$ell\_2$或$ell\_1$方法有有趣的相似之处。此外,我们还提出了两种扩展方法:变量分组选择和逻辑回归。

作者:Zhihua Zhang, Shusen Wang, Dehua Liu and Michael I. Jordan

论文ID:1204.4243

分类:Machine Learning

分类简称:stat.ML

提交时间:2012-04-20

PDF 下载: 英文版 中文版pdf翻译中