TokenRec: Learning to Tokenize ID for LLM-Based Generative Recommendations

Haohao Qu

doi:10.1109/TKDE.2025.3599265

TokenRec: Learning to Tokenize ID for LLM-Based Generative Recommendations

0

PRE

AI

DOI：10.1109/TKDE.2025.3599265

原文链接

原文求助

摘要

En 中文

随着大型语言模型（LLMs）在下一代推荐系统（RecSys）中的应用兴趣日益增长，其卓越的语言理解和推理能力成为推动力。在此背景下，对用户和物品进行分词化处理对于确保LLMs与推荐任务的顺畅对齐至关重要。尽管现有研究已通过文本内容或潜在表示来表征用户和物品并取得进展，但在将高阶协同知识编码为与LLMs兼容的离散分词以及对新用户/物品的泛化方面仍存在挑战。为应对这些挑战，我们提出了一种名为**TokenRec**的新型框架，该框架引入了有效的ID分词策略和高效的检索范式，用于LLM驱动的推荐任务。我们的分词策略涉及将协同过滤学习到的掩码用户/物品表示量化为离散分词，从而实现高阶协同知识的平滑整合以及针对LLM推荐系统的用户和物品泛化分词。与此同时，我们设计的生成式检索范式旨在高效地为用户推荐Top-K物品，无需LLMs采用耗时的人工递归解码和束搜索过程，从而显著减少推理时间。综合实验验证了所提方法的有效性，结果表明TokenRec在包括传统推荐系统和新兴LLM推荐系统在内的竞争基准上均表现更优。

Keyword:

Recommender systems

large language models

ID tokenization

vector quantization

and collaborative filtering

TokenRec: Learning to Tokenize ID for LLM-Based Generative Recommendations

摘要

期刊

机构

引用论文