推理、编码、智能体三位一体——一个模型，三大核心能力
一、引言
长期以来，AI 领域存在一个"不可能三角"：推理能力、编码能力和智能体能力很难在一个模型中同时达到顶级水平。开发者往往需要在不同任务间切换不同模型，这不仅增加了系统复杂度，也制约了真正智能的自主 Agent 应用的落地。
2025 年，智谱 AI（Zhipu AI / Z.ai）发布了 GLM-4.5 系列，打破了这一困局。这是一个基于 Mixture-of-Experts (MoE) 架构的开源大语言模型家族，在推理、编码和智能体（Agentic）三个维度上同时达到了开源模型的顶尖水平，并在 12 项行业标准基准测试中综合排名第 3，仅次于极少数顶级闭源模型。
更重要的是，GLM-4.5 系列采用 MIT 开源协议发布，支持商用和二次开发，为整个开源社区带来了巨大价值。
二、模型家族一览
GLM-4.5 系列包含两个核心语言模型和一个视觉语言模型：
| 模型 | 总参数量 | 激活参数量 | 上下文长度 | 定位 |
|---|---|---|---|---|
| GLM-4.5 | 355B | 32B | 128K | 旗舰模型，追求极致性能 |
| GLM-4.5-Air | 106B | 12B | 128K | 轻量高效版，性价比之选 |
| GLM-4.5V | 基于 GLM-4.5-Air | 12B | 128K | 视觉语言模型，支持图像与视频理解 |
两个语言模型均为混合推理模型（Hybrid Reasoning Model），支持两种工作模式：
- Thinking 模式：针对复杂任务进行深度推理和工具调用，类似 Chain-of-Thought 的逐步思考
- Non-thinking 模式：针对简单查询快速响应，降低延迟
三、架构设计：深度优先的 MoE 创新
3.1 "更深而非更宽"的设计哲学
与 DeepSeek-V3 等同类模型倾向于扩展模型宽度不同，GLM-4.5 采取了**'深度优先'**的设计策略——更多的层数、相对更小的隐藏维度。团队的实验表明，在同等算力预算下，更深的网络结构能显著提升推理能力。
3.2 MoE 路由机制
GLM-4.5 使用了**无损失平衡路由（Loss-free Balance Routing）**配合 Sigmoid 门控机制：
- 每个 token 只激活一小部分专家（32B/355B 或 12B/106B），大幅降低推理时的计算开销
- 路由策略避免了传统 MoE 中常见的负载不均衡问题
- 既保留了大模型的知识容量，又实现了小模型级别的推理效率
3.3 注意力机制的创新
GLM-4.5 在注意力层引入了多项关键优化：
- 分组查询注意力（Grouped-Query Attention, GQA）：提升推理效率，减少 KV Cache 开销
- 部分 RoPE 位置编码：灵活处理不同长度的序列
- QK-Norm：对注意力 logits 进行归一化，稳定训练过程
- 96 个注意力头：在隐藏维度为 5,120 的配置下，使用了约 2.5 倍于常规设计的注意力头数量
