MINT:用于脉冲神经网络的无乘法整数量化

摘要:多项式无乘法整数(MINT)量化在脉冲神经网络(SNN)的权重和膜电位中采用了一种高效的均匀量化方案。与之前的SNN量化工作不同,MINT将占用大量内存的膜电位量化至极低的位宽(2位),从而显著减少总内存占用。此外,MINT量化共享了权重和膜电位之间的量化尺度,消除了标准均匀量化所需的乘法器和浮点运算单元。实验结果表明,我们提出的方法在准确性上与其他最先进的SNN量化工作相匹配,并在总内存占用和硬件成本方面超越了它们。例如,2位的MINT VGG-16在TinyImageNet上实现了48.6\%的准确率(比完全精确度基线好0.28\%),与完全精度模型相比,总内存占用减少了约93.8\%;同时,与其他SNN量化模型相比,我们的模型面积减少了93\%,动态功耗减少了98\%。

作者:Ruokai Yin, Yuhang Li, Abhishek Moitra, Priyadarshini Panda

论文ID:2305.09850

分类:Neural and Evolutionary Computing

分类简称:cs.NE

提交时间:2023-05-23

PDF 下载: 英文版 中文版pdf翻译中