分裂哈密顿蒙特卡洛
摘要:Hamiltonian Monte Carlo算法可以通过对Hamiltonian进行"分裂"来加快速度,这样可以以较低的计算成本在状态空间中进行移动。一个可能出现这种情况的背景是,感兴趣分布的对数密度(势能函数)可以被写成高斯密度的对数(二次函数)加上一个缓慢变化的函数。对于二次能量函数的Hamiltonian动力学可以得到解析解。使用分裂技术,只需要对能量的缓慢变化部分进行数值处理,而且这可以使用较大的步长(从而减少步数)来完成,而不需要直接模拟动力学。另一个分裂有帮助的情况是,能量函数及其梯度的最重要的项可以快速计算,只有一个缓慢变化的部分需要进行计算。使用分裂,快速部分可以使用较小的步长处理,而代价较高的部分使用较大的步长。我们展示了这两种分裂方法可以减少从后验分布中进行采样的计算成本,其中后验分布可以是一个以后验模为中心的高斯近似,或者是一个分裂成仅依赖于少数关键案例的项和一个涉及对后验分布影响较小的大量案例的项的Hamiltonian。本文的辅助材料可在网络上查阅。
作者:Babak Shahbaba, Shiwei Lan, Wesley O. Johnson, and Radford M. Neal
论文ID:1106.5941
分类:Computation
分类简称:stat.CO
提交时间:2012-07-17