用 Mem0 给大模型装上记忆：不只是 RAG 的替代品

它的实现思路

从源码看，Mem0 主要分四个模块：embeddings、llms、memory、vector_stores。核心是 memory 模块，它会调用 LLM 对非结构化文本进行处理，把信息转成结构化的记忆条目，然后按用户、会话等维度存进向量库。下次再收到新的输入时，它会检索相关记忆，作为上下文给到大模型。

流程大致是：存储→检索→动态更新。它会加权考虑最近性和相关性，对过期记忆进行衰减，不会让记忆库无限膨胀，这一点在实际应用中很关键。

一个实际用例：旅行助手

官方文档里给了几个例子，我觉得旅游助手这个比较直观。下面是一个完整可跑的版本，用了 GPT-4o。运行后会不断提问，助手会根据之前存储的记忆给出更个性化的回复。

import os
from openai import OpenAI
from mem0 import Memory

os.environ['OPENAI_API_KEY'] = 'sk-xxx'

class PersonalTravelAssistant:
    def __init__(self):
        self.client = OpenAI()
        self.memory = Memory()
        self.messages = [{"role": "system", "content": "You are a personal AI Assistant."}]

    def ask_question(self, question, user_id):
        previous_memories = self.search_memories(question, user_id=user_id)
        prompt = question
        if previous_memories:
            prompt = f"User input: {question}\n Previous memories: {previous_memories}"
        self.messages.append({"role": "user", "content": prompt})

        response = self.client.chat.completions.create(
            model="gpt-4o",
            messages=self.messages
        )
        answer = response.choices[0].message.content
        self.messages.append({"role": "assistant", "content": answer})

        self.memory.add(question, user_id=user_id)
        return answer

    def get_memories(self, user_id):
        memories = self.memory.get_all(user_id=user_id)
        return [m['text'] for m in memories]

    def search_memories(self, query, user_id):
        memories = self.memory.search(query, user_id=user_id)
        return [m['text'] for m in memories]

if __name__ == "__main__":
    user_id = "traveler_123"
    ai_assistant = PersonalTravelAssistant()

    while True:
        question = input("Question: ")
        if question.lower() in ['q', 'exit']:
            print("Exiting...")
            break

        answer = ai_assistant.ask_question(question, user_id=user_id)
        print(f"Answer: {answer}")
        memories = ai_assistant.get_memories(user_id=user_id)
        print("Memories:")
        for memory in memories:
            print(f"- {memory}")
        print("-----")

实践中需要注意的几个点

1. 隐私合规：记忆里很可能包含 PII，务必要做脱敏，或者让用户知情且可删除。
2. 记忆衰减：可以配合 metadata 设置 TTL，避免记忆占满向量库，检索速度下降。
3. 元数据标签：合理规划 category、session_id 这些标签，能极大提升搜索的精准度。
4. 混合检索：在一些精确匹配需求高的场景，可以结合 Elasticsearch 等关键词搜索，Mem0 默认只做语义向量检索。
5. Token 开销：每条记忆的提取和更新都会消耗 GPT Token，对于高频交互要考虑缓存或者改用更便宜的模型做记忆总结。

小结

Mem0 把记忆层单独拿出来这件事，对构建个性化 AI 代理很有帮助。和 RAG 相比，它更主动地去维护一个动态的用户画像，而不是被动地查文档。我个人的感觉是，在需要长期、多轮对话的场景（比如陪伴类应用、学习助手）下，Mem0 的设计思路比传统 RAG 更自然。当然，它也有代价——多了一层 LLM 调用和向量存储的成本。

如果项目中有类似需求，值得试试看。项目地址：https://github.com/mem0ai/mem0