基于批次贝叶斯优化的分布模糊优化技术
摘要:一种基于分配不明确优化的启发式理论,并结合批次贝叶斯优化提出了一种新的获得函数。我们的获得函数是对已知的预期改进函数的下界,该函数需要对一个多变量分段线性函数进行高斯期望的评估。相反,我们的边界可以通过评估与原始高斯分布具有相同均值和方差的所有概率分布的最佳期望来计算。与其他方法相比,包括预期改进,我们提出的获得函数完全避免了多维积分,并且可以精确计算-即使对于大批次大小也是如此,作为一个易解的凸优化问题的解决方案。我们建议的收购功能也可以高效优化,因为可以以低廉的代价计算出一阶和二阶导数信息。我们推导了一些基于我们的工作理论的新定理,并通过简单的激励示例、基准函数和真实世界问题展示了卓越的性能。
作者:Nikitas Rontsis, Michael A. Osborne, Paul J. Goulart
论文ID:1707.04191
分类:Machine Learning
分类简称:stat.ML
提交时间:2018-04-17