混合优化反向传播学习算法用于多层感知机
摘要：基于一般的反向传播学习的标准神经网络使用了delta方法或梯度下降方法，存在着一些不足，如错误权重目标函数优化不佳、学习速率低、不稳定。本文介绍了一种混合的监督反向传播学习算法，该算法使用了无约束优化误差目标函数的信任区域方法，并采用准牛顿方法对其进行优化。这种优化方法能够为多层感知器的学习阶段提供更精确的权重更新系统，以最小化学习误差。本文采用增广可行线搜索方法来寻找满足Wolfe条件的点。本文中，这种混合反向传播算法具有较强的全局收敛性能，在实践中具有鲁棒性和高效性。
作者：Mriganka Chakraborty and Arka Ghosh
论文ID：1212.1752
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2012-12-20