变分采样近似推理
摘要：变分抽样是一种新的方法，用于估计在可以评估到标准化常数的概率分布下的积分。关键思想是通过最小化使用确定性或随机抽样计算的强一致经验逼近的Kullback-Leibler散度来将目标分布拟合成指数家族模型。在概念上，变分抽样与积分和重要抽样都有所不同，并且在随机相互独立抽样的情况下，在温和条件下表明可能具有比重要抽样更快的随机收敛速度。本文介绍的变分抽样实现需要对目标分布进行粗略的初始逼近，例如使用Laplace方法找到，并且在几种现有的近似推断技术中被证明具有大大改进几乎高斯分布的二阶矩估计的潜力，这在贝叶斯分析中经常出现。具体而言，本文介绍了变分抽样在中等维度的贝叶斯逻辑回归中的应用。
作者：Alexis Roche
论文ID：1105.1508
分类：Computation
分类简称：stat.CO
提交时间：2013-10-15