黑盒优化的扩散模型
摘要：在线黑盒优化（BBO）的目标是使用固定的函数评估数据集来优化一个昂贵的黑盒函数。之前的工作考虑了前向方法和反向方法，前者学习黑盒函数的替代模型，后者直接将函数值映射到输入域中相应的点。这些方法受到离线数据集质量的限制，以及在高维度中学习一对多映射的困难的限制。我们提出了基于扩散模型的去噪扩散优化模型（DDOM），这是一种新的离线黑盒优化的反向方法。给定一个离线数据集，DDOM在黑盒函数的定义域上学习一个条件生成模型，该模型以函数值为条件。我们在DDOM中研究了几种设计选择，例如对数据集进行重新加权以关注高函数值，并在测试时使用无分类器指导，以实现对甚至超过数据集最大值的函数值的推广。在实证方面，我们在Design-Bench基准测试中进行了实验，并展示了DDOM与最先进的基线方法具有竞争力的结果。
作者：Siddarth Krishnamoorthy, Satvik Mehul Mashkaria, Aditya Grover
论文ID：2306.07180
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-22