贝叶斯优化中处理整数值变量的高斯过程方法
摘要：贝叶斯优化方法在优化难以评估、缺乏分析表达并且可能受噪声干扰的函数方面非常有用。这些方法依赖于目标函数的概率模型，通常是高斯过程（GP），并在此基础上构建采集函数。该函数指导优化过程，并测量在新点处评估目标的预期效用。高斯过程假设输入变量是连续的。当这不是情况时，例如部分输入变量采用整数值时，需要引入额外的近似方法。一种常见的方法是在评估目标之前将建议的变量值四舍五入为最近的整数值。我们显示这可能导致优化过程中出现问题，并描述一种更有原则性的方法来处理整数值输入变量。我们在合成和实际实验中展示了我们方法的实用性，该方法在涉及整数值变量的问题上显著改进了标准的贝叶斯优化方法的结果。
作者：Eduardo C. Garrido-Merch''an, Daniel Hern''andez-Lobato
论文ID：1706.03673
分类：Machine Learning
分类简称：stat.ML
提交时间：2020-02-04