前馈和循环网络组件的脑样组合实现原型提取和鲁棒模式识别
摘要：关联记忆的机制对于大量递归的新皮层网络的计算来说是一个显著的候选者。实施关联记忆的吸引子网络已经为许多认知现象提供了机械解释。然而，吸引子记忆模型通常使用正交或随机模式进行训练，以避免记忆之间的干扰，这使得它们在像图像这样的自然发生的复杂相关刺激中不可行。我们通过将递归的吸引子网络与使用无监督海比安学习规则学习分布式表示的前馈网络结合起来，来解决这个问题。得到的网络模型融合了许多已知的生物学特性：无监督学习，海比安可塑性，稀疏分布的激活，稀疏连接，柱状和层状皮层结构等等。我们评估了前馈和递归网络组件在MNIST手写数字数据集上进行复杂模式识别任务中的协同效应。我们证明了在受前馈驱动的内部（隐藏）表示上进行训练时，递归吸引子组件实现了关联记忆。还表明关联记忆能够从训练数据中提取原型并使表示对严重扭曲的输入具有鲁棒性。我们认为，从机器学习的角度来看，前馈和递归计算的这些方面都特别有吸引力。
作者：Naresh Balaji Ravichandran, Anders Lansner, Pawel Herman
论文ID：2206.15036
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2022-09-07