高斯过程的尴尬并行推理
摘要：高斯过程模型的训练通常涉及到因矩阵求逆而导致的$O(N^3)$的计算瓶颈。常用的克服这一矩阵求逆问题的方法不能充分建模所有类型的潜在函数，并且往往不能并行化。然而，恰当的模型结构选择可以改善这个问题。一种使用$K$个高斯过程混合的专家模型提供了建模灵活性和可扩展推断的机会。我们的令人尴尬的并行算法将低维矩阵求逆与重要性抽样相结合，从而得到了一种灵活、可扩展的专家混合模型，其在计算成本较低的情况下与高斯过程回归具有可比较的性能。
作者：Michael Minyi Zhang, Sinead A. Williamson
论文ID：1702.08420
分类：Machine Learning
分类简称：stat.ML
提交时间：2020-03-04