局部搜索、语义和遗传编程：全局分析
摘要：几何语义几何规划（GSGP）是最突出的遗传规划（GP）变体之一，得益于其坚实的理论基础，取得的卓越性能以及执行时间明显小于标准基于语法的GP。近年来，提出了一种新的突变算子，带有局部搜索的几何语义突变（GSM-LS），其基于在突变过程中执行线性回归可以实现更快地收敛到高质量解的思想而增加了局部搜索步骤。虽然GSM-LS有助于进化搜索的收敛，但它容易出现过拟合问题。因此，建议仅在有限的几代中使用GSM-LS，随后切换回标准几何语义突变。最近定义的GSGP的变体（称为GSGP-reg）也包括局部搜索步骤，但与GSM-LS具有相似的优点和缺点。在这里，我们探索了多种可能性来限制GSM-LS和GSGP-reg的过拟合现象，范围从自适应方法来估计每次突变中过拟合的风险到简单的正则化回归。结果表明，限制过拟合的方法并不那么重要：只要使用了控制过拟合的技术，就可以在训练和未知数据上始终优于标准的GSGP。所获得的结果使从业人员能够更好地理解局部搜索在GSGP中的作用，并证明简单的正则化策略在控制过拟合方面是有效的。
作者：Fabio Anselmi, Mauro Castelli, Alberto d'Onofrio, Luca Manzoni, Luca Mariot, Martina Saletta
论文ID：2305.16956
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-05-29