个性化弹性嵌入学习用于设备上的推荐
摘要：面对隐私问题和减少网络延迟的担忧，最近出现了一种趋势，即对在云端训练的臃肿推荐模型进行压缩，并将紧凑的推荐模型部署到资源有限的设备上进行实时推荐。现有的解决方案通常忽视了设备异构性和用户异构性。它们要么要求所有设备共享相同的压缩模型，要么要求具有相同资源预算的设备共享相同的模型。然而，即使使用相同的设备，用户的偏好也可能不同。此外，它们假设设备上推荐器的可用资源（例如内存）是恒定的，这与现实情况不符。鉴于设备和用户的异构性以及动态资源约束，本文提出了一种用于设备端推荐的个性化弹性嵌入学习框架（PEEL），该框架以一次为所有的方式为具有不同内存预算的设备生成个性化嵌入，高效地适应新的或动态的预算，并通过为不同用户组分配个性化的嵌入解决用户偏好的多样性。具体而言，它使用用户-项目交互实例进行预训练，生成全局嵌入表并将用户聚类到组中。然后，它使用每个组内的本地交互实例对嵌入表进行了优化。个性化弹性嵌入是根据组内嵌入块及其权重生成的，这些权重表示每个嵌入块对本地推荐性能的贡献。PEEL通过选择具有最大权重的嵌入块来高效生成个性化弹性嵌入，使其适用于动态内存预算。在两个公共数据集上进行了大量实验，结果表明PEEL在具有异构和动态内存预算的设备上具有更好的性能。
作者：Ruiqi Zheng, Liang Qu, Tong Chen, Kai Zheng, Yuhui Shi, Hongzhi Yin
论文ID：2306.10532
分类：Information Retrieval
分类简称：cs.IR
提交时间：2023-06-21