无监督学习的不变性转换
摘要：训练数据量的需求在现代机器学习中是该领域面临的最大挑战之一。与大脑相比，当前的人工算法在学习不变性转换和利用它们从小样本集中推断知识方面能力较弱。最近提出了大脑可能将感知的不变性编码为突触连接网络中的近似图对称性。这样的对称性可能是通过生物合理的无监督式赫布学习过程自然产生的。在本文中，我们通过数值实例来阐述这一提议，展示了通过简单的赫布学习规则在特征探测神经元层内形成的递归突触连接结构中可以确实恢复出不变性转换。为了从结果递归网络中数值地恢复出不变性转换，我们开发了一个用于寻找近似图自同构的通用算法框架。我们讨论了如何利用该框架在加权图中找到近似自同构的方法。
作者：Aleksandar Vuv{c}kovi''c, Benedikt Stock, Alexander V. Hopp, Mathias Winkel, and Helmut Linde
论文ID：2307.12937
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-07-25