通过通用Kriging代理模型实现高效全局优化
摘要：单目标全局优化中，我们研究了通用Kriging（UK）模型在高效全局优化（EGO）框架中的能力。我们实施了这种结合了UK-EGO框架，并研究了UK方法的四个变体，即带一阶多项式的UK，带二阶多项式的UK，来自ooDACE工具箱的盲Kriging（BK）实现，以及多项式混沌Kriging（PCK）实现。具有来自BK和PCK模型的自动趋势函数选择的UK-EGO框架通过构建UK代理模型，然后使用最低的留一交叉验证误差的Kriging模型执行期望改进标准的优化。接下来，我们使用五个合成测试函数和一个空气动力学问题对UK-EGO变体和标准EGO进行了研究和比较。我们的结果表明，通过自动特征选择选择趋势函数的正确选择可以改善UK-EGO与EGO相比的优化性能。根据我们的结果，我们发现PCK-EGO是最好的变体，因为与其余的UK-EGO方案相比，它的性能更稳健；然而，对于高维问题，应使用总次扩展产生候选趋势函数集。注意，对于某些测试函数，具有预先确定的多项式趋势函数的UK的性能优于BK和PCK，这表明自动趋势函数选择并不总是导致最优质的解决方案。我们还发现，尽管某些UK的变体不如普通Kriging（OK）具有全局准确性，但由于添加了趋势函数，它们仍然可以识别出更优化的解决方案，从而帮助优化器定位全局最优解。
作者：Pramudita Satria Palar, Koji Shimoyama
论文ID：1803.08667
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-03-26