线性模型中基于峰-板先验的收敛期望传播
摘要:线性回归模型中带有锥状和平板先验的准确推断往往是棘手的。期望传播(EP)可用于近似推断。然而,当训练集的规模非常小的时候,常规顺序形式的EP(R-EP)可能无法收敛于该模型。作为一种替代方案,我们提出了一种经过验证的收敛EP算法(PC-EP)。经过验证,PC-EP能够最小化一个能量函数,该函数在某些约束条件下受到下界的限制,其定点与R-EP的解相一致。使用合成数据进行的实验证明,当R-EP无法收敛时,PC-EP生成的近似通常更好。相比之下,当R-EP收敛时,两种方法的性能相似。
作者:Jos''e Miguel Hern''andez-Lobato and Daniel Hern''andez-Lobato
论文ID:1112.2289
分类:Machine Learning
分类简称:stat.ML
提交时间:2011-12-13