基于阻性内存的二值化神经网络的出色误码容忍度
摘要：抗阻式随机存取存储器（RRAM）是一种新型的非易失性存储技术，可以嵌入CMOS芯片核心，非常适合于实现内存中的深度神经网络。其中一种特别激动人心的想法是将其用于实现二值化神经网络（BNN），这是一类具有极小内存占用的深度神经网络。然而，阻性存储器的挑战在于它们容易受到器件差异的影响，从而产生位错误。本文通过在MNIST和CIFAR10任务上进行网络模拟，展示了BNN可以出色地容忍这些位错误。如果使用标准BNN，可以容忍最高10^-4的位错误率，对于MNIST和CIFAR10的识别性能几乎没有影响。然后，我们展示了通过调整训练过程以适应在容易产生错误的硬件上操作BNN的事实，这种容忍度可以进一步扩展到4x10^-2的位错误率。因此，与传统应用相比，RRAM对于BNN的要求要少得多。基于对RRAM HfO2技术的实验测量结果，我们展示了这个结果可以将RRAM编程能量降低了30倍。
作者：Tifenn Hirtzlin, Marc Bocquet, Jacques-Olivier Klein, Etienne Nowak, Elisa Vianello, Jean-Michel Portal and Damien Querlioz
论文ID：1904.03652
分类：Emerging Technologies
分类简称：cs.ET
提交时间：2019-04-09