神经进化的运行时分析的初步步骤
摘要：通过基因演化算法优化简单的人工神经网络的权重和激活函数，我们考虑了神经进化中的一个简单情境。然后，我们定义了一些简单的示例函数，用于网络的学习，并对具有单个神经元的网络和具有多个神经元和两个层的更高级结构进行了严格的运行时分析。我们的结果表明，所提出的算法对于设计用于一个神经元的两个示例问题通常有效，并且对于一个两层网络的示例问题至少具有恒定的概率有效。特别是，所谓的和谐突变操作符，选择大小为$j$的步长的概率与$1/j$成比例，被证明是底层搜索空间的良好选择。然而，对于一个神经元的情况，我们也确定了难以克服的局部最优解的情况。我们对我们的神经进化算法和最先进的CMA-ES进行实验研究，支持理论发现。
作者：Paul Fischer and Emil Lundt Larsen and Carsten Witt
论文ID：2307.00799
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-07-04