Ollama 模型家族深度横评：Llama、Mistral、Gemma 对比指南
近期，许多技术人员开始尝试部署本地大模型。有人使用 MacBook Air 运行 70 亿参数模型，也有人在服务器部署数百亿参数模型，但面临响应速度问题。选择模型，远比安装模型更重要。
Ollama 让本地运行大语言模型变得简单。但在模型库中，面对 Llama、Mistral、Gemma、Qwen、Phi 等选项及不同参数版本，需根据场景筛选。
本文基于近两个月在多种硬件配置上的系统测试数据，涵盖 M1 芯片 Mac、RTX 4090 工作站及集成显卡轻薄本，分享实际使用中的细节和注意事项。
1. 模型家族全景图：理解每个系列的特性
没有'最好'的模型，只有'最合适'的模型。每个模型家族都有其独特的特性，决定了在不同场景下的表现。
1.1 Llama 系列：全能型选手
Meta 开源的 Llama 系列是开源大模型领域的标杆。从 Llama 2 到 Llama 3，再到 Llama 3.1，该系列持续进化。
技术架构特点
Llama 系列采用标准 Transformer 解码器架构。Llama 3 引入 Grouped Query Attention (GQA)，降低内存占用。实测显示，同样 8B 参数，Llama 3.1 比 Llama 2 的内存效率提升约 15%。
# Ollama API 调用示例
import requests
import json
def query_llama(prompt, model="llama3.1:8b"):
url = "http://localhost:11434/api/generate"
payload = {
"model": model,
"prompt": prompt,
"stream": False,
"options": {
"temperature": 0.7,
"top_p": 0.9,
"num_predict": 512
}
}
response = requests.post(url, json=payload)
if response.status_code == 200:
return response.json()["response"]
else:
return f"Error: {response.status_code}"
# 测试多语言能力
result = query_llama("请用中文、英文和日语分别说'你好'")
print(result)
