基于大模型 API 与 RAG 知识库构建智能客服机器人实战

2.3 API 调用流程（Python 实战示例）

以'调用大模型实现文本对话'为例，完整流程如下：

前提条件

• 已开通目标模型服务；
• 已获取 API Key 与文本对话接口 URL；
• 本地环境：Python 3.7+。

步骤 1：环境准备

创建 .env 配置文件（避免硬编码 Key）：

API_KEY=your_api_key_here
CHAT_URL=https://api.example.com/v1/chat/completions

安装依赖库（使用 requests 发送 HTTP 请求）：

pip install requests python-dotenv

步骤 2：编写调用代码

import os
import requests
from dotenv import load_dotenv

# 1. 加载配置
load_dotenv()
API_KEY = os.getenv("API_KEY")
CHAT_URL = os.getenv("CHAT_URL")
HEADERS = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

# 2. 构造请求参数（Prompt 设计）
def build_chat_payload(user_message, system_prompt="你是专业的 AI 助手，回答简洁准确"):
    return {
        "model": "gpt-5",
        "messages": [
            {"role": "system", "content": system_prompt},
            {"role": "user", "content": user_message}
        ],
        "temperature": 0.7,
        "max_tokens": 512
    }

# 3. 发送请求并解析结果
def call_llm_chat(user_message):
    payload = build_chat_payload(user_message)
    try:
        response = requests.post(CHAT_URL, headers=HEADERS, json=payload)
        response.raise_for_status()
        result = response.json()
        reply = result["choices"][0]["message"]["content"]
        token_usage = result["usage"]
        return {
            "success": True,
            "reply": reply,
            "token_used": token_usage["total_tokens"],
            "prompt_tokens": token_usage["prompt_tokens"],
            "completion_tokens": token_usage["completion_tokens"]
        }
    except requests.exceptions.RequestException as e:
        error_msg = str(e)
        if 'response' in locals():
            error_msg += f" | 错误详情：{response.json()}"
        return {"success": False, "error": error_msg}

# 4. 测试调用
if __name__ == "__main__":
    user_input = "用 Python 写一个快速排序算法，带注释"
    result = call_llm_chat(user_input)
    if result["success"]:
        print("AI 回复：\n", result["reply"])
        print(f"\nToken 消耗：总计{result['token_used']}（输入{result['prompt_tokens']}+输出{result['completion_tokens']}）")
    else:
        print("调用失败：", result["error"])

可以看到和我们在平台调用统计看到的结果是一致的。

步骤 3：常见问题排查

第三部分：实战应用案例 —— 智能客服机器人开发

3.1 项目背景与技术栈

应用场景

电商平台轻量化智能客服工具，聚焦订单查询、售后咨询、产品推荐等核心需求，适合中小商家快速部署，无需专业服务器维护，本地 Windows 环境即可运行。

技术栈选型

3.2 核心功能设计

1. 基础多轮对话：通过内存字典存储用户历史对话，支持上下文关联；
2. 智能 RAG 融合：使用与知识库绑定的'融合模式'API Key，平台自动检索并融入知识库上下文；
3. 轻量化部署：无需安装数据库和服务器软件，Python 脚本直接运行。

3.3 完整实现步骤（Windows 环境适配）

步骤 1：RAG 知识库创建（控制台操作）

上传 FAQ 数据：支持上传文档（.md/.docx）、表格（.xlsx）。

进入知识库管理：控制台左侧点击「知识库管理」→「新建知识库」，命名'电商客服 FAQ'。

步骤 2：创建融合模式 API Key（关键步骤）

• 进入「API Key」→「新增 API Key」，类型选择'融合模式'；
• 在'知识库'配置中选择'电商客服 FAQ'，开启绑定；
• 保存生成的 Key，并在 .env 中替换 API_KEY。

融合模式 Key 会自动在调用时进行知识库检索与上下文融合。

步骤 3：项目结构与代码实现

3.1 项目结构

ecommerce-ai-chatbot/
├── app.py # Flask 主程序
├── llm_client.py # 大模型 API 客户端
├── .env # 配置文件
├── requirements.txt # 依赖库
└── templates/
    └── index.html # 前端界面

3.2 依赖库配置（requirements.txt）

flask==2.3.3
requests==2.31.0
python-dotenv==1.0.0

3.3 配置文件更新 (.env)

API_KEY=your_fusion_mode_api_key_here
CHAT_URL=https://api.example.com/v1/chat/completions

3.4 大模型 API 客户端（llm_client.py）

import os
import requests
from dotenv import load_dotenv

user_history = {}
load_dotenv()

class LLMClient:
    def __init__(self):
        self.api_key = os.getenv("API_KEY")
        self.chat_url = os.getenv("CHAT_URL")
        self.headers = {
            "Authorization": f"Bearer {self.api_key}",
            "Content-Type": "application/json"
        }

    def get_chat_reply(self, user_id, user_message):
        if user_id not in user_history:
            user_history[user_id] = []
        messages = [{"role": "system", "content": "你是电商 AI 客服，请根据知识库内容和用户问题，友好地回答。"}] + user_history[user_id] + [{"role": "user", "content": user_message}]
        payload = {
            "model": "gpt-5",
            "messages": messages,
            "temperature": 0.6,
            "max_tokens": 1024
        }
        try:
            response = requests.post(self.chat_url, headers=self.headers, json=payload)
            response.raise_for_status()
            result = response.json()
            reply = result["choices"][0]["message"]["content"]
            token_used = result["usage"]["total_tokens"]
            user_history[user_id].append({"role": "user", "content": user_message})
            user_history[user_id].append({"role": "assistant", "content": reply})
            user_history[user_id] = user_history[user_id][-20:]
            return {"success": True, "reply": reply, "token_used": token_used}
        except Exception as e:
            return {"success": False, "error": str(e)}

    def clear_user_history(self, user_id):
        if user_id in user_history:
            del user_history[user_id]

3.5 Flask 主程序（app.py）

from flask import Flask, request, jsonify, render_template
import uuid
from llm_client import LLMClient

app = Flask(__name__)
llm_client = LLMClient()

@app.route("/")
def index():
    return render_template("index.html")

@app.route("/api/chat", methods=["POST"])
def chat():
    data = request.json
    user_id = data.get("user_id")
    user_message = data.get("message", "").strip()
    if not user_id:
        user_id = str(uuid.uuid4())
    if not user_message:
        return jsonify({"success": False, "error": "请输入有效消息"})
    result = llm_client.get_chat_reply(user_id, user_message)
    result["user_id"] = user_id
    return jsonify(result)

@app.route("/api/clear-history", methods=["POST"])
def clear_history():
    data = request.json
    user_id = data.get("user_id")
    if user_id:
        llm_client.clear_user_history(user_id)
        return jsonify({"success": True})
    return jsonify({"success": False, "error": "user_id 不能为空"}), 400

if __name__ == "__main__":
    app.run(host="127.0.0.1", port=5000, debug=True)

3.6 前端界面（templates/index.html）

<!DOCTYPE html>
<html lang="zh-CN">
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1.0">
<title>电商 AI 客服</title>
<style>
* { margin: 0; padding: 0; box-sizing: border-box; }
body { font-family: Arial, sans-serif; max-width: 800px; margin: 0 auto; padding: 20px; }
.chat-container { border: 1px solid #eee; border-radius: 8px; overflow: hidden; }
.chat-header { background: #2272f9; color: white; padding: 16px; font-size: 18px; }
.chat-history { height: 500px; overflow-y: auto; padding: 16px; background: #fafafa; }
.message { margin: 8px 0; max-width: 70%; padding: 12px; border-radius: 8px; line-height: 1.5; }
.user-message { background: #2272f9; color: white; margin-left: auto; }
.ai-message { background: #fff; border: 1px solid #eee; margin-right: auto; }
.input-container { display: flex; border-top: 1px solid #eee; }
input { flex: 1; padding: 12px 16px; border: none; outline: none; font-size: 14px; }
button { padding: 0 24px; background: #2272f9; color: white; border: none; cursor: pointer; font-size: 14px; }
</style>
</head>
<body>
<div class="chat-container">
<div class="chat-header">AI 客服（7×24 小时在线）</div>
<div class="chat-history" id="chat-history"><div style="color:#666;text-align:center;margin:8px 0;">欢迎咨询</div></div>
<div class="input-container">
<input type="text" id="message-input" placeholder="请输入您的问题"><button id="send-btn">发送</button>
</div>
</div>
<script>
let userId = localStorage.getItem("chat_userid");
const chatHistory = document.getElementById("chat-history");
const messageInput = document.getElementById("message-input");
const sendBtn = document.getElementById("send-btn");

function addMessage(content, isUser = false) {
    const messageDiv = document.createElement("div");
    messageDiv.className = isUser ? "message user-message" : "message ai-message";
    messageDiv.textContent = content;
    chatHistory.appendChild(messageDiv);
    chatHistory.scrollTop = chatHistory.scrollHeight;
}

async function sendMessage() {
    const message = messageInput.value.trim();
    if (!message) return;
    addMessage(message, true);
    messageInput.value = "";
    try {
        const response = await fetch("/api/chat", {
            method: "POST",
            : { :  },
            : .({ : userId, : message })
        });
         result =  response.();
         (result.) {
            (result.);
        }  {
            ();
        }
    }  (e) {
        ();
    }
}

sendBtn.(, sendMessage);
messageInput.(,  {  (e. === ) (); });
</script>
</body>
</html>

步骤 3：Windows 环境部署与运行

3.1 环境准备

1. 安装 Python：访问官网下载对应 Windows 安装包，安装时勾选 'Add Python to PATH'；
2. 创建配置文件：在文件夹中新建 .env 文件，填入 API Key 与 URL。

3.2 安装依赖与启动服务

1. 安装依赖库：

   pip install -r requirements.txt
   

2. 启动服务：

   python app.py
   

3. 访问客服界面：打开浏览器，输入 http://127.0.0.1:5000 即可开始使用。

3.4 效果展示与适用场景

功能测试结果

适用场景

• 个人卖家或小团队：无需服务器，本地电脑即可部署；
• 临时活动客服：促销期间快速上线，活动结束后直接关闭；
• 测试验证：快速验证 AI 客服效果，再决定是否扩展为企业级方案。

局限性说明

• 内存存储对话历史，重启服务后丢失（适合临时使用）；
• 不支持高并发（建议同时在线用户≤10 人）；
• 需保持命令提示符窗口开启。

第四部分：结语

4.1 平台核心优势总结

1. 接入门槛极低：无需技术背景也能快速完成注册→开通模型→API 调用；
2. 成本可控性强：按量计费 + 优惠量包，大幅降低试错成本；
3. 场景覆盖全面：从个人 AIGC 创作到企业级智能体开发，全链路需求均可满足；
4. 技术支撑完善：标准化 API + 专业工具，开发者专注业务逻辑。

4.2 适用人群与场景

4.3 后续探索建议

1. 尝试多模型协作：构建完整 AIGC 流水线；
2. 深入 RAG 功能：上传企业私有文档，构建专属知识库，提升回答精准度。