复杂动态神经元改进的脉冲变压器网络用于高效自动语音识别
摘要：用漏电整合和发射（LIF）神经元的尖峰神经网络（SNN）在自动语音识别（ASR）任务中被广泛使用。然而，与生物大脑中的神经元相比，LIF神经元仍然相对简单。研究更多类型的神经元以及不同规模的神经元动力学是必要的。在这里，我们引入了四种神经元动力学来后处理从尖峰变压器生成的顺序模式，以获得复杂的动态神经元改进的尖峰变压器神经网络（DyTr-SNN）。我们发现DyTr-SNN可以很好地处理非玩具级的自动语音识别任务，具有较低的音素错误率、较低的计算成本和更高的鲁棒性。这些结果表明，将神经元和网络尺度的SNNs和神经动力学进一步结合，对于未来，特别是在ASR任务上，可能有很多潜力。
作者：Minglun Han, Qingyu Wang, Tielin Zhang, Yi Wang, Duzhen Zhang, Bo Xu
论文ID：2302.01194
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-02-03