自适应调整的Metropolis Adjusted Langevin轨迹
摘要：构建用于连续概率分布的广泛应用的汉密尔顿蒙特卡洛(HMC)采样器。在许多情况下，底层的汉密尔顿动力学呈现出谐振现象，降低了算法的效率，并使其对超参数的值非常敏感。可以通过轨迹长度随机化(RHMC)或部分动量刷新有效地处理这个问题。第二种方法与动能朗之万扩散有关，并且通过广义HMC(GHMC)进行了大部分研究。然而，GHMC在被拒绝时会引发动量翻转，导致采样器回溯并浪费计算资源。本文着重介绍一种最近的算法，名为Metropolis Adjusted Langevin Trajectories (MALT)，绕过了这个问题。我们基于最近用于调整RHMC超参数的策略，这些策略针对有效样本大小(ESS)设定了一个界限，并将其调整为适应MALT，从而实现了该算法的第一个用户友好部署。我们构建了一种优化ESS界限的方法，减少了估计方差。与并行实现相容，Adaptive MALT算法在ESS速率方面具有竞争力，并在内存使用方面与GHMC、RHMC和NUTS之间进行了有益的权衡。
作者：Lionel Riou-Durand, Pavel Sountsov, Jure Vogrinc, Charles C. Margossian, Sam Power
论文ID：2210.12200
分类：Computation
分类简称：stat.CO
提交时间：2023-02-23