超越反向传播训练的前馈模型:一种更高效的通用逼近器的实用训练工具
摘要:细胞同时循环神经网络(SRN)已被证明是比多层感知机(MLP)更强大的函数逼近器。这意味着对于某些问题,MLP的复杂性将是不可接受的大,而SRN可以在可接受的计算限制下实现所需的映射。复杂循环网络的训练速度对其成功应用至关重要。本文通过使用扩展卡尔曼滤波器(EKF)对网络进行训练,改进了先前的结果。我们实现了一个通用的细胞SRN,并将其应用于解决两个具有挑战性的问题:2D迷宫导航和连接性问题的子集。与迷宫导航的早期结果相比,收敛速度提高了几个数量级,在连接性问题上展示了更好的泛化能力。讨论了这一改进的意义。
作者:Roman Ilin, Robert Kozma, Paul J. Werbos
论文ID:0710.4182
分类:Neural and Evolutionary Computing
分类简称:cs.NE
提交时间:2007-10-24