深入探索神经元异质性的力量
摘要：生物神经网络是一个广泛而多样化的结构，具有高度的神经异质性。传统的人工神经网络（ANNs）主要关注通过训练来修改连接权重，同时将神经元建模为高度同质化的实体，并且缺乏对神经异质性的探索。只有少数研究通过优化神经元的特性和连接权重来解决神经异质性，以确保网络性能。然而，这种策略会影响神经异质性的具体贡献。在本文中，我们首先演示了基于反向传播的方法在优化脉冲神经网络（SNNs）中面临的挑战，并使用进化策略（ES）在随机网络中更稳健地优化异质神经元。在工作记忆、连续控制和图像识别等任务上的实验证明，神经异质性可以提高性能，特别是在长序列任务中。此外，我们发现膜时间常数在神经异质性中起着关键作用，并且它们的分布与生物实验中观察到的相似。因此，我们认为忽视的神经异质性发挥了重要作用，为探索生物学中的神经异质性提供了新方法，并为设计更具生物学可行性的神经网络开辟了新途径。
作者：Guobin Shen, Dongcheng Zhao, Yiting Dong, Yang Li, Yi Zeng
论文ID：2305.11484
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-05-22