使用随机逼近的控制变量在变分贝叶斯中的应用及其与随机线性回归的关联
摘要：使用随机逼近技术来拟合难以处理的贝叶斯后验分布的变分逼近的可能性已经被我们和其他几位作者讨论过。在这种情况下，随机逼近的天真实现会产生很高的方差。因此，有几位作者建议使用控制变量来减少方差，而我们采取了一种不同但类似的方法来减小方差，我们称之为随机线性回归。在本文中，我们采取前一种观点，在一定假设下推导了随机逼近变分贝叶斯的理想控制变量集合。然后我们展示了使用这些控制变量与我们之前提出的随机线性回归逼近技术密切相关。一个简单的例子表明，我们构建控制变量的方法相对于其他方法导致的随机估计值具有更低的方差。
作者：Tim Salimans and David A. Knowles
论文ID：1401.1022
分类：Computation
分类简称：stat.CO
提交时间：2014-01-14