在具有局部感受野的时间乘积网络中出现复杂细胞的生成
摘要:从时间序列图像中学习不变表示的一种新的神经体系结构和无监督算法的引入。该系统使用两组复杂细胞的输出进行乘法组合:一个表示图像内容,限制为在几个连续帧上保持不变的,另一个表示特征的精确位置,允许随时间变化但限制为稀疏的。该体系结构使用编码器提取特征,解码器从特征中重建输入。该方法应用于连续电影帧中提取的补丁,并产生类似于V1区复杂细胞的方向和频率选择单位。提出了一种方法扩展该方法,以训练由传播到任意大小的大图片上的局部感受域的单位组成的网络。在重叠的局部邻域上,一个受到稀疏性约束的复杂细胞层汇集特征单位,使特征单位组织成方向选择性感受域的螺旋状模式,类似于哺乳动物视觉皮层中观察到的模式。前馈编码器有效地计算完整图像的特征表示。
作者:Karo Gregor, Yann LeCun
论文ID:1006.0448
分类:Neural and Evolutionary Computing
分类简称:cs.NE
提交时间:2010-06-03