变分消息传递与结构化推理网络

摘要:将深度模型与概率图模型相结合的最新努力在提供灵活模型和易于解释性方面具有很大潜力。我们提出了一种变分传递算法来进行这种模型的变分推断。我们做出了三个贡献。首先,我们提出了结构化推断网络,将图模型的结构纳入变分自动编码器(VAE)的推断网络中。其次,我们建立了这种推断网络使得它能够像VAE一样实现快速分摊推断的条件。最后,我们推导出一种变分传递算法,可以在保留分摊推断效率的同时进行高效的自然梯度推断。通过同时实现深度结构模型的结构化、分摊和自然梯度推断,我们的方法简化和推广了现有的方法。

作者:Wu Lin, Nicolas Hubacher, Mohammad Emtiyaz Khan

论文ID:1803.05589

分类:Machine Learning

分类简称:stat.ML

提交时间:2018-06-15

PDF 下载: 英文版 中文版pdf翻译中