学习网络权重的伪逆解

摘要:通过计算神经网络的伪逆运算,最近的十年间,在计算神经科学和机器学习领域出现了一种将输入信号随机传播到更高维度空间的神经网络结构;通过非线性激活函数进行信号处理;然后通过数学伪逆运算解决回归或分类问题。在神经形态工程领域,这些方法越来越受欢迎,用于合成生物合理的神经网络,但是计算伪逆的“学习方法”——奇异值分解,不仅在生物合理性上存在问题,而且不是一种在线或自适应方法。我们提出了一种在线或递增计算伪逆的方法,我们认为这种学习方法在生物合理性上是合理的,并且可以适应非稳态数据流。与通过奇异值分解计算伪逆的传统方法相比,该方法在内存效率上显著更高。

作者:Jonathan Tapson and Andre van Schaik

论文ID:1207.3368

分类:Neural and Evolutionary Computing

分类简称:cs.NE

提交时间:2013-06-11

PDF 下载: 英文版 中文版pdf翻译中