潜在高斯过程模型中的通用推断
摘要:具有高斯过程(GP)先验和一般似然的模型的推断中,我们开发了一种自动变分方法。该方法支持多个输出和多个潜在函数,并且不需要对条件似然的详细了解,只需要作为黑箱函数进行评估。使用高斯混合作为变分分布,我们展示了可以使用从单变量高斯分布中获得的样本有效地估计证据下界及其梯度。此外,该方法可扩展到大数据集,其实现方式是通过使用诱导变量方法作为大多数稀疏GP近似的基础的增广先验,以及并行计算和随机优化。我们通过在小型数据集、中型数据集和大型数据集上进行实验的定量和定性评估,展示了在不同似然模型和稀疏度水平下的竞争力。在涉及航空延误预测和手写数字分类的大规模实验中,我们展示了我们的方法与可扩展的GP回归和分类的最新固定方法相匹配。
作者:Edwin V. Bonilla and Karl Krauth and Amir Dezfouli
论文ID:1609.00577
分类:Machine Learning
分类简称:stat.ML
提交时间:2018-11-06