简单循环水库是普适的
摘要：循环计算模型是一类具有固定、不可训练输入和动态耦合权重的递归神经网络。只有状态空间（储层）的静态读出是可训练的，从而避免了通过时间反向传播梯度信息所带来的已知问题。储层模型已成功应用于各种任务，并在不同设置下被证明是时间不变的衰减记忆动态滤波器的通用逼近器。简单周期储层（SCR）被认为是一种极度受限的储层架构，储层单元具有相等的环连接权重和二值输入到储层的权重，绝对值相同。这种架构非常适合在许多实际任务中进行硬件实现而不会导致性能下降。在本文中，我们严格研究了SCR在复数域中的表达能力，并展示了它们能够对任意不受限制的线性储层系统（具有连续读出）进行通用逼近，从而对一致有界输入流进行任意时间不变的衰减记忆滤波器的逼近。
作者：Boyu Li, Robert Simon Fong, Peter Tiv{n}o
论文ID：2308.10793
分类：Neural and Evolutionary Computing
分类简称：cs.NE
提交时间：2023-08-22