深度任务特定底层表示网络用于多任务推荐
摘要：基于神经网络的多任务学习（MTL）在推荐系统（RS）方面取得了显著的改进，并且已成功应用。最近的深度MTL方法（例如MMoE，PLE）专注于设计基于软门控的参数共享网络，以隐含地学习每个任务的广义表示。然而，当处理相互冲突的任务时，MTL方法可能会受到性能退化的影响，因为任务共享的底层表示可能会出现负迁移效应。这可能导致MTL方法捕捉特定任务特征的能力降低，最终影响其有效性并阻碍其在所有任务上的泛化能力。在本文中，我们专注于RS中MTL的底层表示学习，并提出了深度任务特定底层表示网络（DTRN）来缓解负迁移问题。DTRN通过在底层表示建模阶段使每个任务具有自己的表示学习网络，从而明确地获得任务特定的底层表示。具体而言，它通过参数高效的超网络从多种行为序列中提取用户的兴趣，以满足每个任务的需求。为了进一步获得每个任务的专用表示，DTRN通过为每个任务使用类似于SENet的网络来优化每个特征的表示。这两个提出的模块可以实现获取任务特定的底层表示，以减轻任务之间的干扰。此外，所提出的DTRN灵活地与现有的MTL方法相结合。对一个公开数据集和一个工业数据集的实验结果证明了所提出的DTRN的有效性。
作者：Qi Liu, Zhilong Zhou, Gangwei Jiang, Tiezheng Ge, Defu Lian
论文ID：2308.05996
分类：Artificial Intelligence
分类简称：cs.AI
提交时间：2023-08-21