支持 ChatGLM 与文心一言的 API 管理镜像部署指南

• 令牌名称：前端项目调用
• 允许模型：勾选 ernie-4.5-turbo
• IP 限制：可填公司出口 IP 段

复制生成的令牌（形如 sk-xxx）。发起标准 OpenAI 格式请求：

curl -X POST "http://你的服务器 IP:3000/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-xxx" \
  -d '{ "model": "ernie-4.5-turbo", "messages": [ {"role": "user", "content": "用中文写一段关于人工智能发展的简短评论" } ], "stream": false }'

你会收到标准 OpenAI 格式的 JSON 响应。

3. ChatGLM 与文心一言的实操对比

3.1 添加 ChatGLM 渠道

回到【渠道管理】→ 【+ 新建渠道】：

3.2 同一份代码，切换模型只需改一个参数

假设 Python 脚本如下：

# api_client.py —— 你的业务代码，永远不变
import requests

def generate_copy(model_name: str, prompt: str):
    url = "http://你的服务器 IP:3000/v1/chat/completions"
    headers = {
        "Content-Type": "application/json",
        "Authorization": "Bearer sk-xxx"
    }
    data = {
        "model": model_name,
        "messages": [{"role": "user", "content": prompt}],
        "max_tokens": 512,
        "temperature": 0.7
    }
    response = requests.post(url, headers=headers, json=data)
    return response.json()["choices"][0]["message"]["content"]

# 调用文心一言
wenxin_result = generate_copy("ernie-4.5-turbo", "为智能手表写一句吸引年轻人的广告语")
# 调用 ChatGLM-4
glm_result = generate_copy("glm-4-flash", "为智能手表写一句吸引年轻人的广告语")

两行调用，输出风格截然不同，但函数本身未修改。

3.3 进阶技巧：用负载均衡实现模型兜底

1. 在【渠道管理】中，为文心一言和 ChatGLM 都开启'启用'状态；
2. 进入【负载均衡】→ 【+ 新建策略】：
   • 策略名称：文案生成兜底策略
   • 分发方式：失败重试
   • 主渠道：百度文心一言
   • 备用渠道：智谱 ChatGLM-4

之后，所有发往 ernie-4.5-turbo 的请求，如果文心一言接口异常，会静默切换到 ChatGLM-4。

4. 密钥管理、额度审计与安全控制

4.1 密钥分级管理

• 令牌（Token）：面向开发者或应用，可设置过期时间、单日额度、IP 范围、可访问模型列表。
• 用户（User）：面向人，支持邮箱/飞书/微信登录，可设置分组倍率、初始额度。
• 渠道（Channel）：面向模型服务商，独立管理密钥与配额。

4.2 额度实时审计

进入【额度明细】，查看每个令牌的每一条调用记录（时间、模型、token 数、耗时），按日/周/月统计总消耗图表，支持导出 CSV 报表。

4.3 安全加固

• Cloudflare Turnstile 验证：防止机器人批量注册。
• 兑换码体系：生成兑换码发给客户，自动充值 token。
• Webhook 告警：当某渠道错误率超 5%，自动推送消息给运维群。

5. 生产环境必做的 5 项配置优化

5.1 修改系统基础信息

进入【系统设置】→ 【基本设置】，修改系统名称、Logo、页脚版权信息。

5.2 启用 HTTPS

推荐在服务器 Nginx 反向代理配置 SSL 证书（Let's Encrypt 免费）；或在【系统设置】→ 【HTTPS 设置】中上传证书文件。

5.3 设置默认模型与流式开关

进入【系统设置】→ 【API 设置】，设置默认模型、启用流式模式、调整流式超时时间。

5.4 配置邮件服务

进入【系统设置】→ 【邮件设置】，配置 SMTP 服务器、端口、发件邮箱及授权码，用于密码重置。

5.5 多机部署准备

如果单机 QPS 超 500，可在第二台服务器部署相同镜像，挂载同一个共享存储（如 NFS）到 /app/data，两台机器用 Nginx 做负载均衡。

6. 总结

通过本指南，完成了从 Docker 启动到调用文心一言的全流程。实现了零代码改造、双模型自由切换、企业级管控及平滑演进能力。将模型能力作为基础设施，开发者只消费接口，不操心底层复杂性。