黎曼斯坦变分梯度下降用于贝叶斯推断
摘要：在本文中，我们开发了一种名为Riemannian Stein Variational Gradient Descent（RSVGD）的贝叶斯推断方法，它将Stein Variational Gradient Descent（SVGD）通用化到了Riemann流形上。这种方法具有两个优势：（i）对于欧几里得空间的推断任务，RSVGD相对于SVGD具有利用信息几何的优势；（ii）对于Riemann流形上的推断任务，RSVGD将SVGD的独特优势带到了Riemann世界中。为了适当地转移到Riemann流形上，我们创造了新颖而复杂的RSVGD技术，这些技术满足了一般Riemann流形与欧几里得空间固有不同的特性。我们还发现了Riemannian Stein's Identity和Riemannian Kernelized Stein Discrepancy。实验结果显示，RSVGD在探索分布几何性质方面具有优势，并且在Riemann流形上相对于其他推断方法具有粒子效率、迭代效果和逼近灵活性的优势。
作者：Chang Liu, Jun Zhu
论文ID：1711.11216
分类：Machine Learning
分类简称：stat.ML
提交时间：2017-12-01