非可逆并行淬火：一种可扩展的高并行MCMC方案
摘要：并行温度调节（PT）方法是一类流行的马尔科夫链蒙特卡洛算法，用于采样复杂的高维概率分布。它们依靠一组相互作用的辅助链，以改进状态空间的探索，目标是调整目标分布的温度。我们在这里提供了对这些高度并行算法及其调整的新视角，通过确定和形式化可逆与不可逆PT方案行为和性能的明显差异。我们理论上和实证上表明一类不可逆PT方法主导了可逆对应物，同时确定了不可逆和可逆方案的不同缩放极限，前者是分段确定性马尔科夫过程，后者是扩散过程。利用这些结果，我们确定了不可逆PT的最佳退火计划，并发展了一种逼近该计划的迭代方案。我们提供了一系列数值实验来支持我们的理论和方法贡献。所提出的方法适用于从概率分布$pi$中采样，该分布的密度相对于参考分布$pi_0$为$L$且计算标准化常量。典型的用例是当$pi_0$为先验分布，$L$为似然函数，$pi$为相应的后验分布时。
作者：Saifuddin Syed, Alexandre Bouchard-C^ot''e, George Deligiannidis, Arnaud Doucet
论文ID：1905.02939
分类：Computation
分类简称：stat.CO
提交时间：2021-07-28