基于粒子的变分方法用于贝叶斯非负矩阵分解
摘要：贝叶斯非负矩阵分解（NMF）是理解矩阵数据中的不确定性和结构的一种有前景的方法。然而，大量应用工作优化传统非贝叶斯NMF目标，这些目标不能为NMF固有的非可辨识性提供原则性的理解，而这个问题理论上可以通过贝叶斯方法解决。尽管它们适用性强，但当前的贝叶斯NMF方法在应用环境中并没有取得广泛应用，它们在模型建模的灵活性上做出了妥协以换取可计算性，常常陷入局部模式，并且需要大量样本来获得有意义的不确定性估计。我们通过采用基于粒子的变分推断方法来解决这些问题，该方法仅需要联合似然函数可导才能保持可计算性，使用一种新的初始化技术来识别后验中的多个模式，并允许领域专家检查一个“小”集合的因子化来可靠地表示后验分布。我们引入并使用一类似然函数和先验分布来为NMF建立贝叶斯模型，这些函数和分布使用了流行的非贝叶斯NMF目标。在几个真实数据集上，我们获得了对贝叶斯NMF后验的更好的粒子近似，所需时间比基线方法更短，并展示了多模式在NMF相关任务中的重要作用。
作者：M. Arjumand Masood and Finale Doshi-Velez
论文ID：1803.06321
分类：Machine Learning
分类简称：stat.ML
提交时间：2018-03-19