支持基于能量的学习的伊辛机底物：RBM案例研究
摘要：自然显然在不断进行大量的计算。如果我们能够在适当的级别上利用其中的一部分计算，就有可能比我们使用冯·诺依曼计算机更快、更高效地执行某种类型的计算。事实上，许多强大的算法受到自然启发，因此是自然基础计算的主要候选者。这个领域中的一个特定分支，最近取得了一些快速进展，即 Ising 机。一些 Ising 机在优化问题上已经展示出更好的性能和能效。通过硬件和算法的设计迭代和共同进化，我们期望从自然基础计算系统中获得更多好处。在本文中，我们提出了一个增强型 Ising 机，适用于使用基于能量的机器学习算法进行训练和推理。我们展示了通过一个小的改变，Ising 基质可以加速算法的关键部分，并实现非平凡的加速和效率提升。通过更重大的改变，我们可以将机器转变为一个自给自足的梯度追随者，实现在硬件中几乎完成整个训练。与 Tensor Processing Unit (TPU) 主机相比，这可以带来大约 29 倍的加速和约 1000 倍的能量减少。
作者：Uday Kumar Reddy Vengalam, Yongchao Liu, Tong Geng, Hui Wu and Michael Huang
论文ID：2304.02525
分类：Emerging Technologies
分类简称：cs.ET
提交时间：2023-04-06