桥接图神经网络：用于有效知识传递的知识桥梁学习
摘要：数据需求过大的问题，在数据不充足和质量低下的情况下，给深度学习模型带来了障碍。迁移学习一直被视为从源领域的高质量外部数据向目标领域的有限数据转移知识的可行方法，其遵循域级别的知识转移来学习共享的后验分布。然而，它们通常建立在强假设上，例如，域不变的后验分布，这通常不满足，并且可能引入噪声，导致目标领域的泛化能力差。受图神经网络（GNN）从相邻节点聚合信息的启发，我们重新定义了这一范式，将其称为用于目标领域的知识增强后验分布的学习，即知识桥梁学习（KBL）。KBL首先通过构建连通有知识样本的桥梁图来学习知识传递的范围，然后通过GNN对样本进行逐个的知识传递。KBL不受强假设的限制，并且对源数据中的噪声具有鲁棒性。在KBL的指导下，我们提出了包括自适应知识检索模块用于构建桥梁图和图知识传递模块的Bridged-GNN。对于无关联和关联的数据需求场景的综合实验表明，与现有方法相比，Bridged-GNN显著提高了性能。
作者：Wendong Bi, Xueqi Cheng, Bingbing Xu, Xiaoqian Sun, Li Xu, Huawei Shen
论文ID：2308.09499
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-21