RAG 结合内容推荐的实践方案与代码示例

import faiss

dimension = doc_embeddings.shape[1]
index = faiss.IndexFlatL2(dimension)
index.add(doc_embeddings.astype('float32'))

def retrieve(query_text, top_k=2):
    query_embedding = embedding_model.encode([query_text], convert_to_numpy=True)
    distances, indices = index.search(query_embedding.astype('float32'), top_k)
    return [documents[i] for i in indices[0]]

3.4 生成推荐内容

结合检索结果和 LLM 生成自然语言推荐。

from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "gpt2" # 示例使用 GPT2，生产环境建议使用更强大的模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

def generate_recommendation(user_query, retrieved_docs):
    context = "\n".join(retrieved_docs)
    prompt = f"""基于以下信息，为用户生成一条推荐语：
用户兴趣：{user_query}
参考信息：
{context}
推荐语："""
    
    inputs = tokenizer(prompt, return_tensors="pt")
    outputs = model.generate(**inputs, max_length=200, num_return_sequences=1)
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

4. 优化策略

在实际生产中，简单的 RAG 可能面临检索不准或生成幻觉的问题，需采取以下优化措施：

1. 重排序（Re-ranking）：在初步检索后，使用 Cross-Encoder 模型对候选文档进行精细打分，选取最相关的片段。
2. 提示词优化：明确指示模型'仅基于提供的信息回答'，减少幻觉。
3. 多路召回：结合标签匹配、向量检索和关键词匹配，确保覆盖不同维度的相关性。
4. 缓存机制：对高频查询的检索结果进行缓存，降低延迟。

5. 挑战与展望

尽管 RAG 在推荐系统中表现优异，但仍存在挑战：

• 延迟问题：检索 + 生成的链路较长，需优化推理速度。
• 上下文窗口限制：检索到的文档过多时，超出模型输入限制，需采用摘要或切片策略。
• 动态更新：知识库实时更新时，向量索引的增量维护成本较高。

未来，随着多模态大模型的发展，RAG 将能更好地处理图像、视频等多模态推荐内容，进一步提升用户体验。

6. 总结

本文探讨了 RAG 技术在内容推荐中的实践路径。通过构建检索 - 生成闭环，系统能够提供更具解释性和准确性的推荐服务。开发者应根据实际业务场景选择合适的 Embedding 模型和向量数据库，并持续优化检索与生成环节，以实现最佳效果。