SLSSNN：具有时空转换的高能效脉冲神经网络
摘要：基于神经元网络(SNNs)的类脑脉冲神经网络已经引起了广泛的研究兴趣，这是因为它们具有低功耗特性、高生物可信度和强大的时空信息处理能力。尽管采用了替代梯度(SG)使得非可微分的SNN可以进行训练，但同时实现与人工神经网络(ANNs)相当的准确性和低功耗特性仍然很棘手。在本文中，我们提出了一种具有低计算成本和高准确性的节能脉冲列级脉冲神经网络(SLSSNN)。在SLSSNN中，采用时空转换块(STCBs)来替代卷积和ReLU层，以保持SNN的低功耗特性并提高准确性。然而，由于脉冲列的非可微分特性，SLSSNN不能直接采用反向传播算法。我们通过推导STCB的等效梯度，提出了适合SLSSNN的学习规则。我们在静态和神经形态学数据集上评估了所提出的SLSSNN，包括Fashion-Mnist、Cifar10、Cifar100、TinyImageNet和DVS-Cifar10。实验结果表明，我们提出的SLSSNN在几乎所有数据集上都超过了最先进的准确性，并且使用了更少的时间步长，具有极高的能效性。
作者：Changqing Xu, Yi Liu, and Yintang Yang
论文ID：2307.07136
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-07-17