基于大模型 API 与 RAG 知识库构建智能客服机器人实战

前提条件

• 已开通模型服务；
• 已获取 API Key 与文本对话接口 URL；
• 本地环境：Python 3.7+。

步骤 1：环境准备

创建 .env 配置文件（避免硬编码 Key）：

API_KEY=your_api_key_here
CHAT_URL=https://api.example.com/v1/chat/completions

安装依赖库：

pip install requests python-dotenv

步骤 2：编写调用代码

import os
import requests
from dotenv import load_dotenv

# 1. 加载配置
load_dotenv()
API_KEY = os.getenv("API_KEY")
CHAT_URL = os.getenv("CHAT_URL")
HEADERS = {
    "Authorization": f"Bearer {API_KEY}",
    "Content-Type": "application/json"
}

# 2. 构造请求参数
def build_chat_payload(user_message, system_prompt="你是专业的 AI 助手，回答简洁准确"):
    return {
        "model": "gpt-5",
        "messages": [
            {"role": "system", "content": system_prompt},
            {"role": "user", "content": user_message}
        ],
        "temperature": 0.7,
        "max_tokens": 512
    }

# 3. 发送请求并解析结果
def call_llm_chat(user_message):
    payload = build_chat_payload(user_message)
    try:
        response = requests.post(CHAT_URL, headers=HEADERS, json=payload)
        response.raise_for_status()
        result = response.json()
        reply = result["choices"][0]["message"]["content"]
        token_usage = result["usage"]
        return {
            "success": True,
            "reply": reply,
            "token_used": token_usage["total_tokens"],
            "prompt_tokens": token_usage["prompt_tokens"],
            "completion_tokens": token_usage["completion_tokens"]
        }
    except requests.exceptions.RequestException as e:
        error_msg = str(e)
        if 'response' in locals():
            error_msg += f" | 错误详情：{response.json()}"
        return {"success": False, "error": error_msg}

# 4. 测试调用
if __name__ == "__main__":
    user_input = "用 Python 写一个快速排序算法，带注释"
    result = call_llm_chat(user_input)
    if result["success"]:
        print("AI 回复:\n", result["reply"])
        print(f"\nToken 消耗：总计{result['token_used']}（输入{result['prompt_tokens']}+输出{result['completion_tokens']}）")
    else:
        print("调用失败：", result["error"])

步骤 3：常见问题排查

第三部分：实战应用案例 —— 智能客服机器人开发

3.1 项目背景与技术栈

应用场景

电商平台轻量化智能客服工具，聚焦订单查询、售后咨询、产品推荐等核心需求，适合中小商家快速部署，本地 Windows 环境即可运行，单日成本可控。

技术栈选型

3.2 核心功能设计

1. 基础多轮对话：通过内存字典存储用户历史对话，支持上下文关联；
2. 智能 RAG 融合：使用与知识库绑定的'融合模式'API Key，平台自动检索并融入知识库上下文；
3. 轻量化部署：无需安装数据库和服务器软件，Python 脚本直接运行。

3.3 完整实现步骤（Windows 环境适配）

步骤 1：RAG 知识库创建

上传 FAQ 数据（支持 .md/.docx/.xlsx），例如'退款政策.md'。进入知识库管理新建知识库，命名'电商客服 FAQ'，上传文档完成索引。

步骤 2：创建融合模式 API Key

• 进入 API Key 管理，新增 Key，类型选择'融合模式'；
• 在知识库配置中选择刚才创建的'电商客服 FAQ'；
• 保存生成的 Key，并在 .env 中替换 API_KEY。

步骤 3：项目结构与代码实现

3.1 项目结构

ecommerce-ai-chatbot/
├── app.py              # Flask 主程序
├── client.py           # API 客户端
├── .env                # 配置文件
├── requirements.txt    # 依赖库
└── templates/
    └── index.html      # 前端界面

3.2 依赖库配置（requirements.txt）

flask==2.3.3
requests==2.31.0
python-dotenv==1.0.0

3.3 配置文件更新 (.env)

API_KEY=your_fusion_mode_api_key_here
CHAT_URL=https://api.example.com/v1/chat/completions

3.4 API 客户端（client.py）

import os
import requests
from dotenv import load_dotenv

user_history = {}
load_dotenv()

class LLMClient:
    def __init__(self):
        self.api_key = os.getenv("API_KEY")
        self.chat_url = os.getenv("CHAT_URL")
        self.headers = {
            "Authorization": f"Bearer {self.api_key}",
            "Content-Type": "application/json"
        }

    def get_chat_reply(self, user_id, user_message):
        if user_id not in user_history:
            user_history[user_id] = []
        
        messages = [{"role": "system", "content": "你是电商 AI 客服，请根据知识库内容和用户问题，友好地回答。"}] + user_history[user_id] + [{"role": "user", "content": user_message}]
        
        payload = {
            "model": "gpt-5",
            "messages": messages,
            "temperature": 0.6,
            "max_tokens": 1024
        }
        
        try:
            response = requests.post(self.chat_url, headers=self.headers, json=payload)
            response.raise_for_status()
            result = response.json()
            reply = result["choices"][0]["message"]["content"]
            token_used = result["usage"]["total_tokens"]
            
            user_history[user_id].append({"role": "user", "content": user_message})
            user_history[user_id].append({"role": "assistant", "content": reply})
            user_history[user_id] = user_history[user_id][-20:]
            
            return {"success": True, "reply": reply, "token_used": token_used}
        except Exception as e:
            return {"success": False, "error": str(e)}

    def clear_user_history(self, user_id):
        if user_id in user_history:
            del user_history[user_id]

3.5 Flask 主程序（app.py）

from flask import Flask, request, jsonify, render_template
import uuid
from client import LLMClient

app = Flask(__name__)
ai_client = LLMClient()

@app.route("/")
def index():
    return render_template("index.html")

@app.route("/api/chat", methods=["POST"])
def chat():
    data = request.json
    user_id = data.get("user_id")
    user_message = data.get("message", "").strip()
    
    if not user_id:
        user_id = str(uuid.uuid4())
    if not user_message:
        return jsonify({"success": False, "error": "请输入有效消息"})
    
    result = ai_client.get_chat_reply(user_id, user_message)
    result["user_id"] = user_id
    return jsonify(result)

@app.route("/api/clear-history", methods=["POST"])
def clear_history():
    data = request.json
    user_id = data.get("user_id")
    if user_id:
        ai_client.clear_user_history(user_id)
        return jsonify({"success": True})
    return jsonify({"success": False, "error": "user_id 不能为空"}), 400

if __name__ == "__main__":
    app.run(host="127.0.0.1", port=5000, debug=True)

3.6 前端界面（templates/index.html）

<!DOCTYPE html>
<html lang="zh-CN">
<head>
    <meta charset="UTF-8">
    <title>电商 AI 客服</title>
    <style>
        body { font-family: Arial, sans-serif; max-width: 800px; margin: 0 auto; padding: 20px; }
        .chat-container { border: 1px solid #eee; border-radius: 8px; overflow: hidden; }
        .chat-header { background: #2272f9; color: white; padding: 16px; font-size: 18px; }
        .chat-history { height: 500px; overflow-y: auto; padding: 16px; background: #fafafa; }
        .message { margin: 8px 0; max-width: 70%; padding: 12px; border-radius: 8px; line-height: 1.5; }
        .user-message { background: #2272f9; color: white; margin-left: auto; }
        .ai-message { background: #fff; border: 1px solid #eee; margin-right: auto; }
        .input-container { display: flex; border-top: 1px solid #eee; }
        input { flex: 1; padding: 12px; border: none; outline: none; }
        button { padding: 0 24px; background: #2272f9; color: white; border: none; cursor: pointer; }
    </style>
</head>
<body>
<div class="chat-container">
    <div class="chat-header">AI 客服（7×24 小时在线）</div>
    <div class="chat-history" id="chat-history">
        <div style="color:#666;font-size:12px;text-align:center;margin:8px 0;">欢迎咨询</div>
    </div>
    <div class="input-container">
        <input type="text" id="message-input" placeholder="请输入您的问题"><button id="send-btn">发送</button>
    </div>
</div>
<script>
let userId = localStorage.getItem("chat_userid");
const chatHistory = document.getElementById("chat-history");
const messageInput = document.getElementById("message-input");
const sendBtn = document.getElementById("send-btn");

function addMessage(content, isUser = false) {
    const div = document.createElement("div");
    div.className = isUser ? "message user-message" : "message ai-message";
    div.textContent = content;
    chatHistory.appendChild(div);
    chatHistory.scrollTop = chatHistory.scrollHeight;
}

async function sendMessage() {
    const message = messageInput.value.trim();
    if (!message) return;
    addMessage(message, true);
    messageInput.value = "";
    try {
        const res = await fetch("/api/chat", {
            method: "POST",
            : {: },
            : .({ : userId || , : message })
        });
         result =  res.();
         (result.) {
            (result.);
             (!userId) { userId = result.; .(, userId); }
        }  {
            ();
        }
    }  (e) {
        ();
    }
}

sendBtn.(, sendMessage);
messageInput.(,  {  (e. === ) (); });
</script>
</body>
</html>

步骤 4：Windows 环境部署与运行

1. 安装 Python：访问官网下载 Windows 安装包，勾选'Add Python to PATH'；
2. 创建项目文件夹：在命令行执行 mkdir C:\ecommerce-ai-chatbot 并进入；
3. 安装依赖：运行 pip install -r requirements.txt；
4. 启动服务：运行 python app.py；
5. 访问界面：打开浏览器输入 http://127.0.0.1:5000。

3.4 效果展示与适用场景

功能测试结果

局限性说明

• 内存存储对话历史，重启服务后丢失（适合临时使用）；
• 不支持高并发（建议同时在线用户≤10 人）；
• 需保持命令提示符窗口开启。

第四部分：结语

4.1 平台核心优势总结

1. 接入门槛极低：无需技术背景也能完成注册→开通模型→API 调用；
2. 成本可控性强：按量计费 + 优惠量包，大幅降低试错成本；
3. 场景覆盖全面：从个人创作到企业级智能体开发，全链路需求均可满足；
4. 技术支撑完善：标准化 API + RAG/Prompt 优解工具，开发者专注业务逻辑。

4.2 适用人群与场景

4.3 后续探索建议

1. 尝试多模型协作：构建完整 AIGC 流水线；
2. 深入 RAG 功能：上传企业私有文档，构建专属知识库，提升回答精准度。