Mem0 大语言模型集成指南：支持 OpenAI Groq AWS 等多种模型

2. Groq

Groq 提供极速推理能力，适合对延迟敏感的应用。

import os
from mem0 import Memory

os.environ["GROQ_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "groq",
        "config": {
            "model": "mixtral-8x7b-32768",
            "temperature": 0.1,
            "max_tokens": 1000,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

3. Together AI

Together AI 支持多种开源模型，配置方式类似。

import os
from mem0 import Memory

os.environ["TOGETHER_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "togetherai",
        "config": {
            "model": "mistralai/Mixtral-8x7B-Instruct-v0.1",
            "temperature": 0.2,
            "max_tokens": 1500,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

4. AWS Bedrock

AWS Bedrock 需要配置区域和访问密钥。

import os
from mem0 import Memory

os.environ['AWS_REGION'] = 'us-east-1'
os.environ["AWS_ACCESS_KEY_ID"] = "xx"
os.environ["AWS_SECRET_ACCESS_KEY"] = "xx"

config = {
    "llm": {
        "provider": "aws_bedrock",
        "config": {
            "model": "arn:aws:bedrock:us-east-1:123456789012:model/your-model-name",
            "temperature": 0.2,
            "max_tokens": 1500,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

5. LiteLLM

LiteLLM 作为统一接口，可代理多种模型调用。

import os
from mem0 import Memory

os.environ["OPENAI_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "litellm",
        "config": {
            "model": "gpt-3.5-turbo",
            "temperature": 0.2,
            "max_tokens": 1500,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

6. Google AI (Gemini)

使用 Google 的 Gemini 模型。

import os
from mem0 import Memory

os.environ["GEMINI_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "litellm",
        "config": {
            "model": "gemini/gemini-pro",
            "temperature": 0.2,
            "max_tokens": 1500,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

7. Anthropic (Claude)

集成 Claude 模型。

import os
from mem0 import Memory

os.environ["ANTHROPIC_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "litellm",
        "config": {
            "model": "claude-3-opus-20240229",
            "temperature": 0.1,
            "max_tokens": 2000,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

8. Mistral AI

集成 Mistral 模型。

import os
from mem0 import Memory

os.environ["MISTRAL_API_KEY"] = "your-api-key"

config = {
    "llm": {
        "provider": "litellm",
        "config": {
            "model": "open-mixtral-8x7b",
            "temperature": 0.1,
            "max_tokens": 2000,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

9. OpenAI Azure

适用于企业私有化部署场景。

import os
from mem0 import Memory

os.environ["AZURE_API_KEY"] = "your-api-key"
os.environ["AZURE_API_BASE"] = "your-api-base-url"
os.environ["AZURE_API_VERSION"] = "version-to-use"

config = {
    "llm": {
        "provider": "litellm",
        "config": {
            "model": "azure_ai/command-r-plus",
            "temperature": 0.1,
            "max_tokens": 2000,
        }
    }
}

m = Memory.from_config(config)
m.add("Likes to play cricket on weekends", user_id="alice", metadata={"category": "hobbies"})

记忆操作详解

除了添加记忆（add），Mem0 还支持检索、更新和删除操作，以实现完整的记忆生命周期管理。

检索记忆

根据用户 ID 或查询内容检索相关记忆。

# 按用户 ID 获取所有记忆
memories = m.get(user_id="alice")
print(memories)

# 按查询内容搜索
results = m.search(query="What does Alice like to do?", user_id="alice")

更新记忆

当用户信息发生变化时，可以更新现有记忆。

m.update(
    memory_id="memory-id-here",
    new_memory="Prefers hiking over cricket",
    user_id="alice"
)

删除记忆

清理不再需要的记忆数据。

m.delete(memory_id="memory-id-here", user_id="alice")

最佳实践与安全建议

1. API Key 管理：始终使用环境变量存储密钥，切勿提交到代码仓库。生产环境中建议使用密钥管理服务（如 AWS Secrets Manager）。
2. 用户隔离：务必为每个用户分配唯一的 user_id，防止记忆混淆和数据泄露。
3. 元数据利用：充分利用 metadata 字段存储分类、时间戳等信息，便于后续过滤和分析。
4. 成本控制：合理设置 temperature 和 max_tokens，平衡生成质量与 Token 消耗。
5. 错误处理：在网络请求失败时应实现重试机制，并记录日志以便排查问题。

总结

Mem0 提供了灵活且强大的记忆层解决方案，支持接入业界主流的大模型服务。通过本文的配置示例和操作指南，开发者可以快速构建具备个性化记忆能力的 AI 应用。无论是个人助手还是企业级知识库，Mem0 都能提供稳定的底层支持。