V1中超越$ell\_1$稀疏编码
摘要：视觉刺激编码中只有一小部分感觉神经元处于活跃状态的证据日益增多。传统上，为了模拟这种生物学上的稀疏性，生成模型一直在使用$ell\_1$范数作为惩罚项，因为它的凸性使得它对快速和简单的算法求解器友好。在这项工作中，我们以生物视觉为测试平台，并展示与其他适用于近似$ell\_q$（包括最近提出的连续精确松弛）的函数相比，与$ell\_1$范数相关的软阈值操作在性能和生成类似于原始视觉皮层的特征方面高度不优。我们展示了$ell\_1$稀疏性产生了更密集的代码或使用了更多的神经元组成的感知池，即具有更高的超完备度，以便保持与其他考虑方法相同的重构误差。对于所有测试的惩罚函数，一部分神经元类似于V1神经元发展出了方向选择性。当他们的代码足够稀疏时，这些方法还发展出了具有不同功能的感受野，这是V1的另一个特征。与其他方法相比，软阈值在实现这种稀疏度时牺牲了更多的重构性能，这在生物视觉中很可能是不可接受的。我们的结果表明，V1使用的稀疏导向正则化更接近于$ell\_0$伪范数而不是$ell\_1$范数。
作者：Ilias Rentzeperis, Luca Calatroni, Laurent Perrinet, Dario Prandi
论文ID：2301.10002
分类：Neurons and Cognition
分类简称：q-bio.NC
提交时间：2023-01-26