NxTF:基于Intel Loihi的深度脉冲神经网络的API和编译器

摘要:对于高效的时空稀疏数据流的事件驱动处理,尖峰神经网络(SNNs)是一种有希望的范式。SNNs在设计上启发了并且可以利用新兴的类神经形态处理器(如英特尔Loihi)。这些新颖的硬件架构暴露了影响固件、编译器和算法开发的各种约束。为了在Loihi上实现对SNN算法的快速灵活开发,我们开发了NxTF:一种从Keras派生的编程接口和为将深度卷积SNNs映射到多核英特尔Loihi架构进行优化的编译器。我们在直接训练尖峰的DNNs以及从传统DNNs转换的模型上评估了NxTF,处理了稀疏事件驱动和密集帧驱动的数据集。此外,我们评估了编译器在将模型分布到大量核心上以及通过利用Loihi的权重共享功能对模型进行压缩时的有效性。最后,我们将与其他架构相比评估模型的准确性、能量消耗和解决方案时间。对于输入尺寸为128x128的28层、4M参数MobileNet模型,编译器在16个Loihi芯片上实现了80%的资源利用率。此外,我们使用现成的MobileNet在神经形态硬件上报告了CIFAR-10数据集的最低错误率为8.52%。

作者:Bodo Rueckauer, Connor Bybee, Ralf Goettsche, Yashwardhan Singh, Joyesh Mishra, Andreas Wild

论文ID:2101.04261

分类:Emerging Technologies

分类简称:cs.ET

提交时间:2021-01-13

PDF 下载: 英文版 中文版pdf翻译中