使用GPU计算的快速Hamiltonian Monte Carlo

摘要:通过使用图形处理单元(GPU)的泛型框架,汉密尔顿蒙特卡洛(HMC)算法已被发现在从后验分布中生成样本时比其他流行的马尔可夫链蒙特卡洛(MCMC)方法(如随机行走的Metropolis-Hastings)更有效。在HMC中最耗时的计算任务是后验核的评估和相对于参数的计算梯度。本文的主要目标之一是通过将每个任务表示为简单的矩阵或逐元素操作,并在GPU内存中保持持久性对象,从而大大减少计算时间。通过使用GPU对象执行整个HMC模拟,可以避免大部分与从主存到GPU内存传输数据相关的延迟惩罚。因此,所提出的计算框架在概念上非常简单,但也足够通用,适用于使用HMC抽样的大多数问题。为了清楚地解释所提出方法的有效性,本文在高维设置中使用了一个标准的统计模型-多项式回归进行演示。通过使用GPU,以前由于计算成本过高而无法进行完全贝叶斯方法的数据集分析现在变得可行。

作者:Andrew L. Beam, Sujit K. Ghosh, Jon Doyle

论文ID:1402.4089

分类:Computation

分类简称:stat.CO

提交时间:2014-02-18

PDF 下载: 英文版 中文版pdf翻译中