最近邻高斯过程进行变量选择
摘要：使用高斯过程回归提出了一种新颖的贝叶斯方法来解决变量选择问题。选择与问题相关的最相关变量通常会增加解释能力，并且在许多情况下是正则化模型的关键步骤。具体而言，所提出的方法依赖于所谓的最近邻高斯过程，可以被看作是经典高斯过程的高度可扩展的近似。为了进行变量选择，该过程的均值和协方差函数被条件于一个随机集合A。该集合包含了对模型有贡献的变量的索引。在关于A的先验信念的规定允许控制选择的变量数量的同时，给剩余的模型参数指定所谓的参考先验。参考先验的应用确保了过程协方差矩阵的（数值）稳健性。提出了一个基于Metropolis-within-Gibbs算法的模型推断方法。通过模拟数据、计算实验中的近似问题和两个真实世界数据集，评估了新方法的性能。
作者：Konstantin Posch, Maximilian Arbeiter, Martin Pleschberger, Juergen Pilz
论文ID：2103.14315
分类：Computation
分类简称：stat.CO
提交时间：2021-03-29