在线蒸馏增强的多模态顺序推荐Transformer
摘要：多模态推荐系统在近年来获得了广泛关注，该系统整合了多种类型的信息。然而，与传统的基于协同过滤的多模态推荐系统相比，多模态顺序推荐的研究仍处于起步阶段。与仅依赖于物品标识符（ID）信息并专注于网络结构设计的传统顺序推荐模型不同，多模态推荐模型需要强调物品表示学习和异构数据源的融合。本文研究了物品表示学习对下游推荐任务的影响，并检查了不同阶段信息融合的差异。通过实证实验，证明了设计适用于协同学习和多样信息融合的框架的必要性。基于此，我们提出了一个新的多模态顺序推荐任务的模型无关框架，称为在线蒸馏增强多模态转换器（ODMT），以增强多源输入（ID、文本和图像）之间的特征交互和相互学习，并避免训练过程中不同特征之间的冲突，从而提高推荐准确性。具体而言，我们首先在物品表示学习阶段引入了一个ID感知多模态转换器模块，以促进不同特征之间的信息交互。其次，在预测优化阶段，我们采用在线蒸馏训练策略，使多源数据互相学习并提高预测的稳健性。在一个流媒体推荐数据集和三个电子商务推荐数据集上的实验结果表明了所提出两个模块的有效性，相比基准模型提高了约10％的性能。
作者：Wei Ji, Xiangyan Liu, An Zhang, Yinwei Wei, Yongxin Ni, Xiang Wang
论文ID：2308.04067
分类：Information Retrieval
分类简称：cs.IR
提交时间：2023-08-15