清华智谱开源 7440 亿参数智能体模型 GLM-5

*：指其全套测试的得分。

†：Terminal-Bench 2.0 的验证版本，修复了一些模糊指令。 详见脚注获取更多评估细节。

脚注

• 人类终极考试（HLE）及其他推理任务：我们评估时设置最大生成长度为 131,072 个 token（temperature=1.0, top_p=0.95, max_new_tokens=131072）。默认情况下，我们报告纯文本子集的结果；带*标记的结果来自完整数据集。我们使用 GPT-5.2（中等规模）作为评判模型。对于带工具的 HLE 评估，我们使用最大上下文长度 202,752 个 token。
• SWE-bench 与 SWE-bench 多语言版：我们使用 OpenHands 运行 SWE-bench 测试套件，并采用定制化的指令提示。设置参数：temperature=0.7, top_p=0.95, max_new_tokens=16384，上下文窗口为 200K。
• 浏览器交互评测（BrowserComp）：在没有上下文管理的情况下，我们仅保留最近 5 轮对话的细节。启用上下文管理时，采用与 DeepSeek-v3.2 和 Kimi K2.5 相同的全丢弃策略。
• 终端基准测试 2.0（Terminus 2）：我们使用 Terminus 框架评估，参数为 timeout=2h, temperature=0.7, top_p=1.0, max_new_tokens=8192，上下文窗口为 128K。资源限制为 16 核 CPU 和 32GB 内存。
• 终端基准测试 2.0（Claude 代码版）：在 Claude Code 2.1.14（思考模式，默认计算量）中评估，参数为 temperature=1.0, top_p=0.95, max_new_tokens=65536。由于生成速度差异，我们移除了挂钟时间限制，但保留每项任务的 CPU 和内存约束。分数取 5 次运行的平均值。我们修复了 Claude Code 引入的环境问题，并在已消除歧义指令的验证版 Terminal-Bench 2.0 数据集上补充了结果（参见：https://huggingface.co/datasets/zai-org/terminal-bench-2-verified）。
• 网络攻防演练（CyberGym）：在 Claude Code 2.1.18（思考模式，禁用网页工具）中评估，参数为 temperature=1.0, top_p=1.0, max_new_tokens=32000，每项任务限时 250 分钟。结果基于 1,507 项任务的单次 Pass@1 通过率。
• MCP-Atlas 图谱测试：所有模型均在 500 项公开子集的思考模式下评估，每项任务限时 10 分钟。我们使用 Gemini 3 Pro 作为评判模型。
• τ²基准测试：在零售和电信领域添加了小型提示调整，以避免因用户提前终止导致的失败。针对航空领域，我们应用了 Claude Opus 4.5 系统卡中提出的领域修复方案。
• 自动售货机基准测试 2：由 安顿实验室 独立运行。

本地部署 GLM-5

环境准备

vLLM、SGLang 和 xLLM 均支持 GLM-5 的本地部署。此处提供简易部署指南。

vLLM 使用 Docker 作为：

docker pull vllm/vllm-openai:nightly 

或者使用 pip：

pip install -U vllm --pre --index-url https://pypi.org/simple --extra-index-url https://wheels.vllm.ai/nightly

然后升级 transformers：

pip install git+https://github.com/huggingface/transformers.git

SGLang 使用 Docker 作为：

docker pull lmsysorg/sglang:glm5-hopper # For Hopper GPU
docker pull lmsysorg/sglang:glm5-blackwell # For Blackwell GPU

部署

vLLM

vllm serve zai-org/GLM-5-FP8 \
  --tensor-parallel-size 8 \
  --gpu-memory-utilization 0.85 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 1 \
  --tool-call-parser glm47 \
  --reasoning-parser glm45 \
  --enable-auto-tool-choice \
  --served-model-name glm-5-fp8

查看 配方 获取更多详情。

• xLLM 及其他昇腾 NPU 请查阅部署指南 此处。

SGLang

python3 -m sglang.launch_server \
  --model-path zai-org/GLM-5-FP8 \
  --tp-size 8 \
  --tool-call-parser glm47 \
  --reasoning-parser glm45 \
  --speculative-algorithm EAGLE \
  --speculative-num-steps 3 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 4 \
  --mem-fraction-static 0.85 \
  --served-model-name glm-5-fp8

查看 sglang 教程 获取更多细节。