校准和改进图对比学习
摘要：图对比学习算法在节点分类、链接预测和图聚类等各种应用中表现出卓越的成功。然而，在无监督图对比学习中，一些对比对可能与下游任务中的真实情况相矛盾，因此对这些对比对的损失的减少会不可避免地影响下游任务的性能。为了评估这些对比对中预测结果与下游任务中的真实情况之间的差异，我们将期望校准误差（ECE）应用于图对比学习中。ECE的分析激发了我们提出一种新的正则化方法Contrast-Reg，以确保减少对比损失会带来更好的下游任务性能。作为一个插件正则化器，Contrast-Reg有效地提高了现有图对比学习算法的性能。我们提供了理论和实证结果，以证明Contrast-Reg在增强图神经网络（GNN）模型的泛化能力和提高具有不同相似性定义和编码器骨干的图对比算法在各种下游任务中的性能。
作者：Kaili Ma, Haochen Yang, Han Yang, Yongqiang Chen, James Cheng
论文ID：2101.11525
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-23