MCMC使用状态集合解决包括高斯过程回归等快慢变量问题
摘要：基于集合的MCMC方法在从概率密度函数为pi(x)的分布中抽样时具有一定的优势。在这种方法中，首先将当前状态x随机映射到一个集合中的各个状态x^{(1)},...,x^{(K)}。然后使用保持适当的集合密度rho(x^{(1)},...,x^{(K)})的MCMC更新来更新这个集合，其中rho是基于pi(x^{(i)}) (i=1,...,K)所定义的。最后，在这些更新之后，从集合中随机选择一个状态。当pi和集合的特性使得能够在比计算单个x的pi(x)所需的计算时间少于K倍的时间内计算出pi(x^{(i)}) (i属于{1,...,K})时，这样的集合MCMC更新是有用的。这种类型的普遍情况是当对一些"快速"变量进行变化时，可以快速重新计算密度，而对其他"慢速"变量进行变化时不能。高斯过程回归模型是这种问题的一个例子，其中协方差和噪声方差的整体缩放因子属于快速变量。我展示了集合MCMC在高斯过程回归模型中确实可以大幅改善抽样性能。最后，我讨论了集合MCMC的其他可能应用，以及它与刘、梁和黄的"多次尝试Metropolis"方法和Leman、陈和拉文的"多集合采样器"的关系。
作者：Radford M. Neal
论文ID：1101.0387
分类：Computation
分类简称：stat.CO
提交时间：2011-01-04