信息图上的非参数最大熵估计

摘要:最大熵估计在许多不同学科中推断系统属性方面具有广泛的研究兴趣。在这项研究中,我们显著扩展了我们之前介绍的一种技术,用于在给定双变量互信息和单变量熵的条件下估计一组随机离散变量的最大熵。具体而言,我们展示了如何将这个概念应用于连续随机变量,并大大扩展了可以进行条件化的信息论数量的类型。这使我们能够建立我们的方法相对于现有方法的一些显著优势。我们的方法不仅在样本不足的情况下表现良好,而现有方法则失败,而且在变量的基数增加时计算代价也会大大降低。此外,我们提出了连接信息的非参数形式,并给出了一个说明性例子,展示了在感兴趣的情况下,这与现有的参数形式是一致的。我们进一步展示了我们的方法在现实世界系统中的适用性和优势,以人类静息状态脑网络为例。最后,我们展示了如何使用我们的方法从观察到的活动中估计相互作用单元之间的结构网络连接,并在相位振荡器网络的通用示例中建立了相对其他方法的优势。

作者:Elliot A. Martin, Jaroslav Hlinka, Alexander Meinke, Filip Dv{e}chtv{e}renko, J"orn Davidsen

论文ID:1601.00336

分类:Data Analysis, Statistics and Probability

分类简称:physics.data-an

提交时间:2016-01-05

PDF 下载: 英文版 中文版pdf翻译中