深度生成模型的曲率之谜：潜空间奇异性
摘要：深度生成模型提供了一种学习非线性数据分布的系统方法，通过一组潜变量和一个非线性的“生成器”函数，将潜在点映射到输入空间中。生成器的非线性意味着潜在空间给出了输入空间的畸变视图。在温和条件下，我们表明这种畸变可以通过随机黎曼度量来刻画，并证明在这个度量下距离和插值显著改进。这进一步改善了概率分布、采样算法和潜在空间中的聚类。我们的几何分析还揭示了当前生成器提供了较差的方差估计，并提出了一种具有极大改进方差估计的新生成器架构。结果在卷积和全连接变分自编码器上进行了演示，但形式主义易于推广到其他深度生成模型。
作者：Georgios Arvanitidis, Lars Kai Hansen, S{o}ren Hauberg
论文ID：1710.11379
分类：Machine Learning
分类简称：stat.ML
提交时间：2021-12-14