文本就是你所需要的：为序列推荐学习语言表示
摘要：推荐序列旨在对历史交互进行动态用户行为建模。现有方法依赖于明确的物品ID或一般的文本特征来进行序列建模以理解用户偏好。尽管有前景，但这些方法仍然难以对冷启动物品进行建模或向新数据集传递知识。在本文中，我们提出将用户偏好和物品特征建模为可以推广到新物品和数据集的语言表示。为此，我们提出了一种名为Recformer的新框架，用于有效学习顺序推荐的语言表示。具体而言，我们建议通过扁平化由文本描述的物品键值属性，将物品形式化为一个“句子”（词序列），以便用户的物品序列成为一个句子序列。对于推荐，Recformer被训练成理解“句子”序列并检索下一个“句子”。为了对物品序列进行编码，我们设计了一个双向Transformer，类似于Longformer模型，但具有不同的嵌入层，用于顺序推荐。为了有效地学习表示，我们提出了结合语言理解和推荐任务的新颖的预训练和微调方法。因此，Recformer能够基于语言表示有效地推荐下一个物品。在六个数据集上进行的广泛实验证明了Recformer在顺序推荐中的有效性，尤其是在低资源和冷启动环境中。
作者：Jiacheng Li, Ming Wang, Jin Li, Jinmiao Fu, Xin Shen, Jingbo Shang, Julian McAuley
论文ID：2305.13731
分类：Information Retrieval
分类简称：cs.IR
提交时间：2023-05-30