本文调研了 2024 年各大互联网公司在大模型推荐（LLM4Rec）领域的最新进展。Meta 提出了生成式推荐（GRs）和分层序列转导单元（HSTU），通过统一特征和任务实现扩展性提升。华为的 CTRL 框架通过知识对齐融合协同信号与语义信号。百度 RLMRec 利用 LLM 增强表示学习以抗噪声。腾讯 IDP 范式解决新领域迁移问题。快手 LEARN 框架通过双塔结构融合 LLM 特征。阿里 BEQUE 框架利用 LLM 进行长尾 Query 改写。蚂蚁 SLMRec 探索小模型蒸馏以降低推理成本。小红书 NoteLLM 针对 UGC 内容优化标签与类目生成。整体趋势显示，大模型正从单纯的特征补充转向核心推荐逻辑的重构，重点在于语义与 ID 的融合、效率优化及特定场景的深度适配。
在多方搜索资料后发现，2023 年存在一篇关于大模型推荐的综述（Survey）。国内也有一些讲解资料参考。这篇文章对近期大模型推荐的研究工作进行分类，大模型结合推荐的应用主要分为 5 个方面：
另外，模型也对模型的发展做了进一步的预测，微调大模型完成推荐、不微调大模型 + 传统推荐大模型将会为未来发展方向。这里就不具体展开，详情可看原文。
本文章不再对上文所提调研工作进行详述，而是对今年（2024）以来影响力较大的工作进行汇总，分析各互联网公司的研究进展，期望可以给出一些启示。
近两年大模型飞速发展，很多公司也在探索大模型在推荐场景的落地应用。这里对近期的一些进展进行 survey。
任务形式如下图：
统一特征：DRs 这里把 E/F, G, H 分别进行 merge and sequentialize，这里 (E, F) 表示哪些用户的交互行为，merge 后得到的是 (Φ,a,t): (Context, action, timestamp)，而 G, H 则是一些'not related to user-content engagements'。
统一任务：
作者为了兼顾效率，特别改进了模型框架：
注意到，其中的每个模块变成了：
虽然形式上和 attention 还是比较像的，但是注意到：
可以发现，softmax 这个点的影响很大。此外，还有数据集的切分，优化器的选择等等。虽然最后的效果并没有特别夸张，但是这些尝试是值得肯定的。
Generative Recommenders 与 DLRMs 的比较：GR 在工业规模流设置下不仅离线性能显著优于 DLRMs，而且在 A/B 测试中带来了 12.4％的指标提升；GR 的扩展性优于 DLRMs，其各项指标随着计算量的增加呈幂律增长，这表明从 LLMs 借鉴的扩展规律也适用于大规模推荐系统。
动态词汇表适应性：推荐系统需要能够快速适应动态变化的词汇表，如新物品的加入和旧物品的移除。HSTU 的设计允许模型灵活地处理这些变化，而不需要频繁的重新训练，这一点对于保持推荐系统的最新状态和相关性非常重要。
仅使用语言模型进行推荐目前效果不理想，需要通过引入推荐场景的数据，结合微调技术，为语言模型注入协同信号。为此，华为提出了一种对齐语言模型和协同模型的框架 CTRL。
实验结果如上表所示，在多个数据集上获得了 SOTA。
总结下方法创新性：
百度这篇文章原理还比较容易理解，但是他写的复杂，导致理解费劲。
推荐系统利用深度学习和图神经网络，如 NGCF 和 LightGCN，显著提升个性化推荐。然而，它们过分依赖 ID 信息，忽视了文本信息，且易受隐式反馈（如点击偏见）的噪声干扰。为此，我们提出了 RLMRec，通过结合 LLMs（大型语言模型）增强表示学习，捕捉更多深层次的语义特征。我们通过辅助文本和跨视图对齐技术处理文本信息，利用互信息优化表示，以应对数据质量和偏见问题，确保在噪声环境下推荐系统的稳健性。
所提方法三步走：
由此，获得了 llm 增强的用户画像 emb。
实验证明了所提 emb 的提升，特别是在抗噪声干扰方面。同时也说明了该 emb 的通用性，在多个测试集获得提升。这里就不列出了。
传统的顺序推荐（SR）系统通过分析用户历史行为序列，预测用户未来喜好，常用于网站推荐。它主要利用 ID 嵌入，将商品独特 ID 转化为密集的嵌入向量来表示商品。然而，当面对新领域迁移时，这种方法存在挑战。本研究提出 ID 中心推荐预训练范式（IDP）来解决这一问题，通过在预训练阶段整合 ID 和行为信息，利用 ID 嵌入的语义，用 CDIM 在源领域寻找相似商品，以生成适应新领域的项目嵌入。实验证明，IDP 模型在冷启动和暖启动场景下表现优越。
本文所提方法，可以分为三部分：
当然，在下游任务中可以直接复用预训练的推荐模型；微调也能更好适配新领域。
实验证明了预训练的有效性，在多个测试集的下游任务获得了提升。这里细节不进行阐述，可自行查看原文。
过往使用大模型做推荐分为两种思路：
文中认为以上其实都是将 LLM 的广域和推荐领域强行结合 (Rec-to-LLM)，可能会出现遗忘，即随着推荐任务的学习，模型会丢失在预训练过程中学到的知识。
由此有了新的这个 LEARN 框架（Llm-driven knowlEdge Adaptive RecommeNdation），旨在有效融合大模型和推荐系统 (LLM-to-Rec)，更像是一种特征提取，LEARN 框架通过双塔结构（用户塔和物品塔），利用 LLM 生成的 Embedding 来改进推荐性能。
历史序列和目标序列：感觉是对行为序列做截断，当前曝光之前的作为历史序列，当前曝光之后的作为目标序列，对于第 i 个用户，其历史交互序列和目标交互序列分别定义如下：
U_hist_i = {Item_i1, Item_i2, ..., Item_iH}U_tar_i = {Item_i(H+1), Item_i(H+2), ..., Item_i(H+T)}用户塔和商品塔：用户塔就是 PCH，商品塔给了三种样式：
在训练阶段，Variant 1 使用用户目标交互序列作为输入，Variant 2 和 Variant 3 独立处理每个商品。
实验过程给出了多个对比实验，主要是根据召回准确率来对比。实验证明所提 variant 1 中模型的有效性；证明所提方法对比纯 id_emb 或文本 emb 的优势。具体可查看原文。
淘宝电商搜索引擎框架下，用户输入搜索词之后，平台先进行语义理解，对用户 query 进行改写，之后对原始词 + 改写后的词召回商品，再经过多层排序后对用户展现头部商品。query 改写的目标是，在保持相关性的同时，对原始 query 进行语义扩展，可以召回更多相关商品。例如，有两个搜索词，'DIY blind box'和"Self_building blind box"。这里前者和后者语义相同，但是前者是主流搜索词，召回结果有多个。而后者属于长尾搜索词，难以召回多个结果。如果将后者改写为前者，语义保持相同的情况下，召回更多的商品，则在后续的排序流程中更有概率推荐转化率高的商品，从而提高订单量 && GMV。
目前 LLM 在 query 改写上有一些工作，但由于对没有使用 query 改写特定任务对大模型进行 fine-tune，还存在一定的局限性。
本文提出了 BEQUE 框架，框架包含三个阶段，如下图所示：
第一阶段 Multi-instruction Supervised Fine Tuning：使用多领域数据集对 LLM 进行 finetune，主要包括 Query Rewriting Dataset 和辅助数据集 2 个部分。
第二阶段 offline feedback：设计多个函数多角度评估改写 query 质量，包括 relevance、increment、hitrate 等 3 个评估方法。
第三阶段 object alignment：强制模型学习改写 query 之间 pairwise 的偏序。 使用 PRO Loss 来 pair wise 地学习改写 query 之间的顺序：
模型的最终 Loss 为监督微调的 loss + PRO loss。
模型离线效果如下表所示。从上图可以看到，与多种基线相比，BEQUE 与多种基线相比，在多个测试集上的 relevance 指标略为逊色，但在 incr/hitrate 指标上有极大幅度的提升。细节可参考原文。
主要研究推荐大模型的蒸馏问题，以满足线上推理时效性要求。
NLP 领域中 LLM 的冗余性启示我们，尽管 LLMs 在 NLP 任务上表现出色，但在 SR 任务中过大的模型并非必需。我们关注的是找到合适大小的 LLM，既能保证性能，又能减少资源消耗。现有的 LLM 驱动的 SR 模型如 P5、CoLLM 等虽然性能提升显著，但参数量膨胀问题严重，增加了 70 倍，这在面对海量日志和实时更新的环境时显得不切实际。因此，我们的研究旨在优化 LLM 在 SR 中的应用，通过减少不必要的模型大小，如利用 LLMs 的规模定律，以实现既能提升性能又节省资源的目标。
我们致力于研究如何通过缩小 LLMs，如 LLaMa-7B 的规模，来探究其在推荐中的实际效果，关注的是观察这种减小参数量对性能的影响。
我们选择 LLaMa 模型，教师模型为深度的，学生模型为较浅的，它们具有相同的隐藏维度。为确保特征方向的一致性，我们设计了一个余弦相似性损失 Lfsim，通过比较教师和学生模型每间隔 i 层的特征向量来测量相似性。
我们还加入了特征范数正则化，通过计算教师和学生模型每组间隔 i 层的特征差的平方和来量化 L2 距离。数学表达为 Lfnorm，目标是使学生模型的特征尽可能接近教师模型，以保持相似性和防止偏差。
我们引入了多源指导，通过学习额外的适配器 Wt 来细化学生模型的学习。
总损失函数 Ltotal 由三部分组成：知识蒸馏损失 LKD，特征相似性损失 Lfsim，以及多源指导的预测损失 Lmp。
通过联合优化这三种损失，学生模型能既学习教师知识，又能保持自身特征质量和对推荐的理解，从而提升其泛化能力和推荐表现。
其中，我们引入了三个超参数 λ1 λ2, 和 λ3，分别代表知识蒸馏损失、特征相似性损失 Lfsim 和多源指导预测损失 Lmp 的重要性。它们允许我们在知识学习、特征保持和理解推荐知识之间进行动态平衡。通过调整这些权重，我们可以优化模型，确保在学习教师知识的同时，保证特征质量和对推荐信息的处理，从而增进学生模型的泛化能力和推荐表现。
实验，我们发现基于 LLM 的推荐方法在提取序列兴趣模式方面明显优于传统 TSR 方法。同时也证明了小型语言模型在适当策略下能与大模型抗衡。具体细节可参考原文。
小红书作为一个 UGC 的种草分享平台，用户往往对特定内容具有很强的连续了解欲望，比如出游攻略，往往希望多看几个笔记去完善自己的出游计划，此类推荐文中称为 item2item(I2I) 推荐，从业务实际出发，标签 (#号，hashtag) 和类目 (cate) 提供很强的指导性和相关性，但现有基于 BERT 的模型进行 Embedding 学习时，对标签或类别等元素只是作为文本的一部分，没有充分利用，由此做了 NoteLLM 的工作。
本方法将训练定义为三个任务：
为三个任务设计统一的 prompt：
训练过程采用多任务联合训练。即训练数据中构造召回 pairs 对，对 emb 进行对比学习；对 tag 和类目采用生成的 loss，最后将对比学习 loss 与生成 loss 叠加作为 total loss。
实验证明了所提方法的有效性，特别在低曝光笔记上效果提升明显。具体可参考原文。
总结一下近期的重要探索方向：
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online