支持 ChatGLM/文心一言的 API 管理镜像部署手册

进入【令牌管理】→ 【+ 新建令牌】：

• 令牌名称：前端项目调用
• 过期时间：按需设置
• 允许模型：勾选 ernie-4.5-turbo
• IP 限制：可填公司出口 IP 段

复制生成的令牌（形如 sk-xxx）。发起标准 OpenAI 格式请求：

curl -X POST "http://你的服务器 IP:3000/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-xxx" \
  -d '{ "model": "ernie-4.5-turbo", "messages": [ {"role": "user", "content": "用中文写一段关于人工智能发展的简短评论" } ], "stream": false }'

3. 模型调用与切换

该镜像做了智能适配层，理解各模型的语义差异，在不破坏 OpenAI 标准的前提下精准映射能力。

3.1 添加 ChatGLM 渠道

回到【渠道管理】→ 【+ 新建渠道】：

3.2 同一份代码，切换模型只需改一个参数

假设有一个 Python 脚本用于生成产品宣传文案：

# api_client.py —— 你的业务代码，永远不变
import requests

def generate_copy(model_name: str, prompt: str):
    url = "http://你的服务器 IP:3000/v1/chat/completions"
    headers = {
        "Content-Type": "application/json",
        "Authorization": "Bearer sk-xxx"
    }
    data = {
        "model": model_name, # ← 关键！只改这里
        "messages": [{"role": "user", "content": prompt}],
        "max_tokens": 512,
        "temperature": 0.7
    }
    response = requests.post(url, headers=headers, json=data)
    return response.json()["choices"][0]["message"]["content"]

# 调用文心一言
wenxin_result = generate_copy("ernie-4.5-turbo", "为智能手表写一句吸引年轻人的广告语")
# 调用 ChatGLM-4
glm_result = generate_copy("glm-4-flash", "为智能手表写一句吸引年轻人的广告语")

两行调用，输出风格截然不同，但函数一行没改。

3.3 进阶技巧：负载均衡实现兜底

现实中，某个模型可能临时限流。可配置双渠道自动 fallback：

1. 在【渠道管理】中，为文心一言和 ChatGLM 都开启'启用'状态；
2. 进入【负载均衡】→ 【+ 新建策略】：
   • 策略名称：文案生成兜底策略
   • 分发方式：失败重试
   • 主渠道：百度文心一言
   • 备用渠道：智谱 ChatGLM-4

之后，所有发往 ernie-4.5-turbo 的请求，如果文心一言接口异常，会静默切换到 ChatGLM-4。

4. 密钥管理与安全控制

4.1 密钥分级管理

• 令牌（Token）：面向开发者或应用。可设置过期时间、单日额度、允许 IP 范围、可访问模型列表。
• 用户（User）：面向人，支持邮箱/飞书/微信登录。可设置用户分组、分组倍率、初始额度。
• 渠道（Channel）：面向模型服务商，独立管理密钥与配额。

4.2 额度实时审计

进入【额度明细】，查看每个令牌的每一条调用记录（时间、模型、token 数、耗时），按日/周/月统计总消耗图表，支持导出 CSV 报表。

4.3 安全加固

• Cloudflare Turnstile 验证：防止机器人批量注册；
• 兑换码体系：生成 VIP 兑换码，发给重点客户自动充值；
• Webhook 告警：当某渠道错误率超 5%，自动推送消息给运维群。

5. 生产环境配置优化

5.1 修改系统基础信息

进入【系统设置】→ 【基本设置】，修改系统名称、Logo、页脚版权信息。

5.2 启用 HTTPS

生产环境必须 HTTPS。推荐在服务器 Nginx 反向代理配置 SSL 证书（Let's Encrypt 免费），或在【系统设置】→ 【HTTPS 设置】中上传证书文件。

5.3 设置默认模型与流式开关

进入【系统设置】→ 【API 设置】：

• 默认模型：设为 ernie-4.5-turbo
• 启用流式：勾选（获得打字机效果）
• 流式超时：设为 30 秒

5.4 配置邮件服务

进入【系统设置】→ 【邮件设置】，配置 SMTP 服务器、端口、发件邮箱及授权码，用于密码重置。

5.5 多机部署准备

如果单机 QPS 超 500，可横向扩展：

• 第二台服务器部署相同镜像，挂载同一个共享存储（如 NFS）到 /app/data；
• 两台机器用 Nginx 做负载均衡；
• 所有配置、令牌、日志自动同步。

6. 总结

通过本方案，完成了从 Docker 启动到模型调用的全流程，实现了零代码改造、双模型自由切换、企业级管控及平滑演进能力。将模型能力作为基础设施，开发者只需专注业务逻辑，无需操心底层复杂性。