使用计算相变存储的准确深度神经网络推断
摘要：在内存计算中，采用电阻式存储器的交叉点阵列可以编码网络权重并进行高效的模拟矩阵-向量乘法，而无需数据的中间移动。然而，由于器件的变异性和噪声，网络需要以特定的方式进行训练，以确保将数字训练的权重传输到模拟电阻式存储器器件中不会导致明显的准确性损失。在这里，我们介绍了一种方法，用于训练ResNet类型的卷积神经网络，并在将权重转移到基于相变存储器（PCM）的内存计算硬件时不会出现明显的准确性损失。我们还提出了一种利用批量归一化参数来改进准确性保持的补偿技术。在将训练的权重映射到PCM后，我们在CIFAR-10数据集上实现了93.7％的分类准确率和ImageNet基准测试的71.6％的top-1准确率。我们在CIFAR-10上使用ResNet-32的硬件结果表明，在一个周期内保持了超过93.5％的准确率，其中网络的361,722个突触权重仅编程在两个以差分配置组织的PCM器件上。
作者：Vinay Joshi, Manuel Le Gallo, Simon Haefeli, Irem Boybat, S.R. Nandakumar, Christophe Piveteau, Martino Dazzi, Bipin Rajendran, Abu Sebastian, Evangelos Eleftheriou
论文ID：1906.03138
分类：Emerging Technologies
分类简称：cs.ET
提交时间：2020-05-19