子模性在行动中:从机器学习到信号处理应用

摘要:离散域函数性质的子模性可以被解释为模仿连续域中众所周知的凸性/凹性性质的作用。子模函数具有强大的结构,导致高效的优化算法和可证明的近似最优性保证。这些特点,即效率和可证明的性能界限,对信号处理(SP)和机器学习(ML)实践者尤为重要,因为在各种应用中遇到了各种离散优化问题。传统上,解决离散问题有两种常见方法:$(i)$ 松弛为连续域从而获得近似解,或$(ii)$ 开发一个特定的算法直接在离散域中应用。在这两种方法中,往往很难建立最坏情况下的性能保证。此外,它们往往非常复杂,因此对于大规模问题来说并不实际。在本文中,我们展示了如何利用子模性来构造可扩展的解决方案,并提供可证明最坏情况下性能保证。我们介绍了各种友好的子模应用,并阐明了子模性与凸性和凹性的关系,从而实现高效的优化。通过理论和实践的结合,我们提供了不同类型的子模性以及现代SP和ML中的实际案例研究。在所有情况下,我们都呈现了优化算法,并提供了确立最优性保证的提示。

作者:Ehsan Tohidi, Rouhollah Amiri, Mario Coutino, David Gesbert, Geert Leus, Amin Karbasi

论文ID:2006.09905

分类:Signal Processing

分类简称:eess.SP

提交时间:2023-07-19

PDF 下载: 英文版 中文版pdf翻译中