修剪深度神经网络为昆虫飞行生成稀疏、生物启发的非线性控制器
摘要：昆虫飞行是一个强非线性的、有驱动的动力系统。因此，理解其控制策略通常依赖于基于模型的方法或其线性化。在这里，我们开发了一个框架，将模型预测控制和深度神经网络（DNN）结合起来，以解决飞行控制的逆问题。我们从自然系统中获取灵感，因为它们固有地展示了网络修剪，并因此产生了更高效的用于特定任务的网络。这种受生物启发的方法允许我们利用网络修剪来最优地稀疏DNN架构，以尽可能少的神经连接执行飞行任务，然而，稀疏化也有局限性。具体来说，当连接数降至临界阈值以下时，飞行性能会显著下降。我们开发了稀疏化模式，并探索了其在控制任务中的限制。蒙特卡罗模拟还量化了在修剪中给定DNN的初始随机权重时，网络权重的统计分布。我们证明，平均而言，网络可以修剪为保留大约原始网络权重的7％，并在网络的每一层量化了统计分布。总的来说，这项工作表明稀疏连接的DNN能够预测跟随飞行轨迹所需的力。此外，稀疏化具有明显的性能限制。
作者：Olivia Zahn, Jorge Bustamante Jr., Callin Switzer, Thomas Daniel, J. Nathan Kutz
论文ID：2201.01852
分类：Quantitative Methods
分类简称：q-bio.QM
提交时间：2023-01-11