难以计算标准化常量的指数族似然度量的扭曲梯度增强高斯过程代理模型
摘要:具有难以计算的归一化常数的指数族模型的马尔可夫链蒙特卡洛方法,例如交换算法,需要在每次马尔可夫链迭代中模拟足够的统计数据,这通常导致昂贵的计算。在这种情况下,已经开发出了用于加速推断算法的似然函数的替代模型。然而,这些替代模型往往相对不灵活,并且通常提供对真实似然函数的较差逼近。在本文中,我们提出使用一种扭曲的、梯度增强的高斯过程替代模型来模拟似然函数,该模型联合建模了足够统计的样本均值和方差,并使用扭曲函数捕捉输入参数空间中的协方差非平稳性。我们证明,考虑非平稳性和包含梯度信息可以利用起来获得一个优于常规平稳高斯过程替代模型的替代模型,在进行推断时特别适用于似然函数呈现相位转变的区域。我们还证明,所提出的替代模型可以用于提高在精确推断算法中嵌入时的单位时间内的有效样本量。我们通过模拟和真实数据展示了我们的方法在加速推断算法方面的实用性。
作者:Quan Vu, Matthew T. Moores, Andrew Zammit-Mangion
论文ID:2105.04374
分类:Computation
分类简称:stat.CO
提交时间:2023-02-21