使用并行的TAP方程和RBM解决结构化数据集的反问题

摘要:在二进制聚类数据集存在的情况下,我们提出了一种解决反问题的高效算法。我们考虑了典型的霍普菲尔德模型在教师学生的场景中,这种情况在检索阶段可见。通过平均场方法或伪似然优化,我们对这个问题进行了广泛的分析。我们的方法是基于使用TAP(Thouless-Anderson-Palmer)方程来估计后验概率,采用并行更新策略。与其他方法不同,我们的方法允许恢复出教师准确的模式,并且并行更新使其可以适用于大型系统。我们还观察到,近似信息传递(AMP)方程在直接问题中无法重现预期的行为,这对于从置信传播(BP)获得的时间索引的标准做法提出了质疑。我们使用受限玻尔兹曼机(RBM)解决了同样的问题,并讨论了两种算法之间的类似之处。

作者:Aur''elien Decelle, Sungmin Hwang, Jacopo Rocchi, Daniele Tantari

论文ID:1906.11988

分类:Disordered Systems and Neural Networks

分类简称:cond-mat.dis-nn

提交时间:2023-07-17

PDF 下载: 英文版 中文版pdf翻译中