用 One API 镜像统一模型接口：文心一言、ChatGLM 部署实战

同一份代码，切换模型只改一个参数

想要接入 ChatGLM，再加一个渠道就行。回到「渠道管理」→「+ 新建渠道」：

保存。现在你业务代码里的函数可以写成这样：

import requests

def generate_copy(model_name: str, prompt: str):
    url = "http://你的服务器 IP:3000/v1/chat/completions"
    headers = {
        "Content-Type": "application/json",
        "Authorization": "Bearer sk-xxx"
    }
    data = {
        "model": model_name,
        "messages": [{"role": "user", "content": prompt}],
        "max_tokens": 512,
        "temperature": 0.7
    }
    resp = requests.post(url, headers=headers, json=data)
    return resp.json()["choices"][0]["message"]["content"]

# 文心一言
wenxin = generate_copy("ernie-4.5-turbo", "为智能手表写一句吸引年轻人的广告语")
# ChatGLM-4
glm = generate_copy("glm-4-flash", "为智能手表写一句吸引年轻人的广告语")

函数一行没改，就 model 参数不一样，输出风格完全不同。省事。

负载均衡自动兜底

万一文心一言临时抽风，最好有个备胎。可以配置双渠道自动 fallback：

1. 确保文心一言和 ChatGLM 两个渠道都「启用」。
2. 进入「负载均衡」→「+ 新建策略」：
   • 策略名称：文案生成兜底
   • 分发方式：失败重试
   • 主渠道：百度文心一言
   • 备用渠道：智谱 ChatGLM-4

以后所有发给 ernie-4.5-turbo 的请求，如果文心一言挂了，会自动切到 ChatGLM-4 ，对业务完全透明。

密钥管理与安全控制

这个网关把权限分了三层：

• 令牌（Token）：给应用用的。可以限制过期时间、每天调用量、IP 白名单、能用哪些模型。
• 用户（User）：给人用的，支持邮箱/飞书/微信登录，分用户组、倍率。
• 渠道（Channel）：各模型厂商的 key，独立管理和配额。

在「额度明细」里，每条调用记录都看得清清楚楚：时间、模型、 token 消耗、耗时。还能按天/周/月统计报表，导出 CSV。

安全方面，可以开启 Cloudflare Turnstile 防止机器人注册，用兑换码体系做客户充值，设置 Webhook 告警：某个渠道错误率超过 5%，马上推消息到企业微信或飞书群。

生产环境优化

一些实用设置：

• 系统名称、Logo、页脚版权：在「系统设置」→「基本设置」里改。上生产前换成自家的。
• 启用 HTTPS：生产必须上 HTTPS。可以在前面架一层 Nginx 反向代理，用 Let's Encrypt 免费证书。或者在系统设置里直接上传证书。
• 默认模型和流式：在「系统设置」→「API 设置」里把默认模型设为 ernie-4.5-turbo，勾选「启用流式」获得打字机效果，流式超时设为 30 秒。
• 邮件服务：配置 SMTP，用于密码重置。在「系统设置」→「邮件设置」填服务器、端口和授权码。

如果单机扛不住（QPS 超过 500），可以横向扩展：另外一台机器部署同样镜像，挂载同一个共享存储（比如 NFS）到 /app/data，前端用 Nginx 做负载均衡，所有配置、令牌、日志自然同步。

到此，从零搭好一个统一模型网关，业务代码不用动，切模型就像换个参数。把模型能力的各种差异交给网关，你踏实写业务逻辑就行了。