ID-centric Pre-training for Recommendation

doi:10.1145/3735128

ID-centric Pre-training for Recommendation

2025-07-10

0

PRE

AI

DOI：10.1145/3735128

原文求助

摘要

En 中文

传统序列推荐模型通常采用ID嵌入来存储从用户历史行为中学习到的知识并表示物品。然而，这些独特的ID难以转移到新领域。随着预训练语言模型（PLM）的兴起，一些开创性工作采用PLM进行预训练推荐，其中通过PLM将模态信息视为跨领域的通用信息。不幸的是，ID嵌入中的行为信息已被证实目前在推荐中占主导地位，相比模态信息，这限制了这些模型的性能。在本工作中，我们提出了一种新颖的以ID为中心的推荐预训练范式（IDP），它直接将预训练领域中学习到的信息性ID嵌入转移到新领域的物品表示中。具体来说，在预训练阶段，除了基于ID的序列推荐模型外，我们还构建了一个由行为和模态信息共同学习的跨领域ID匹配器（CDIM）。在微调阶段，新领域物品的模态信息被视为由CDIM构建的跨领域桥梁。他们首先采用CDIM从预训练领域中检索行为和语义上相似的物品。接下来，这些检索到的物品的预训练ID嵌入被直接采用以生成下游新物品的嵌入。通过在真实数据集上的大量实验，我们证明了我们提出的模型显著优于所有基线模型。

Keyword:

ID embeddings

pre-trained language model

sequential recommendation

cross-domain transfer

recommendation pre-training

ID-centric Pre-training for Recommendation

摘要

期刊

机构

引用论文