基于 Spring AI 构建生产级“AI 问数”Agent 实战

四、技术选型：为什么最终选了 Spring AI？

当时我们对比了以下几套方案（项目主要技术栈为 Java）：

最终决定：主线用 Spring AI 官方 + Spring AI Alibaba 的 DataAgent / Graph 模块，大模型底座先用通义千问 Qwen，后期可平滑切换 OpenAI-Like 的 LLM（如 DeepSeek）。

五、开发全过程完整复盘

5.1 架构设计

整体架构如下：

核心是把 Agent + Tool Calling + RAG 三者结合。

5.2 关键技术实现细节

1. 数据库 Schema 向量化（RAG）

我们把所有表的注释、中文别名、字段注释、历史高频 SQL 样例全部向量化存入向量引擎。

@Bean
public VectorStore vectorStore() {
    return new OpenSearchVectorStore(openSearchOps, embeddingModel);
}
// 上线前把所有表结构&注释灌入一次
vectorStore.add(documents);

用户提问时，先检索最相关的 8-12 个表&字段描述注入 Prompt，避免大模型'幻觉'生成不存在的字段。

2. Text-to-SQL Agent（核心）

我们基于 Spring AI Alibaba Graph 快速搭建 ReAct Agent：

@Bean
public Agent dataQueryAgent(ChatModel chatModel, List<ToolCallback> tools) {
    return ReActAgent.builder()
        .chatModel(chatModel)
        .tools(tools)  // SqlExecutor + ChartGenerator
        .systemPrompt(SYSTEM_PROMPT)  // 含业务规则 + 安全限制
        .build();
}

SYSTEM_PROMPT 里写了非常严格的规则：

• 必须使用中文别名
• 禁止 DELETE/UPDATE/DROP 等操作
• 结果集限制 5000 行等

3. SQL 执行安全控制

我们没有直接把 JDBC 暴露给大模型，而是封装了 SqlExecutor Tool：

• 先生成 SQL
• 用正则 + ANTLR 解析 SQL AST，检查是否只涉及允许的表
• 自动注入 WHERE user_id IN (...) 权限条件
• 执行前走 SQL 审核规则（公司内部规则引擎）
• 执行超时 10s 自动熔断

4. 图表自动生成

这是我们自己扩展的一个 Tool：ChartGenerator。

Agent 会在思考后决定：

• 数据类型 → 推荐图表类型（折线/柱状/饼等）
• 是否需要多系列
• 是否需要堆叠/双 Y 轴

然后调用 ChartGenerator 返回完整的 Chart Option JSON，前端直接渲染。

{
  "labels": ["一月", "二月", "三月", "四月", "五月", "六月", "七月"],
  "datasets": [
    {
      "label": "订单数量",
      "data": [65, 59, 80, 81, 56, 55, 40],
      "borderColor": "rgb(75, 192, 192)",
      "backgroundColor": "rgba(75, 192, 192, 0.2)",
      "fill": false,
      "tension": 0.4,
      "pointBackgroundColor": "rgb(75, 192, 192)",
      "pointBorderColor": "#fff",
      "pointRadius": 5,
      "borderWidth": 2,
      "stepped": false
    },
    {
      "label": "订单金额（元）",
      "data": [45100.00, 60000.00, 35000.00, 70000.00, 88000.00, 65000.00, 50000.00],
      "borderColor": "rgb(255, 99, 132)",
      "backgroundColor": "rgba(255, 99, 132, 0.2)",
      "fill": false,
      "tension": 0.4,
      "borderWidth": 2
    }
  ]
}

用户还可以继续追问：'换成柱状图''加上去年同期对比'，Agent 会记住上下文继续调整。

5. 上下文记忆与多轮对话

用了 Spring AI 的 Memory 组件 + Redis 存 20 轮对话历史，支持指代消解（'它'指代上文提到的指标）。

六、上线效果与数据

上线测试局点数据：

• 平均响应时间：20.8 秒（含图表渲染）
• SQL 生成准确率：94.3%（人工抽查 1000 条）
• 用户满意度评分：4.8/5.0（内部调研）
• 运营人员工单量下降 67%

七、后续优化方向

1. 接入自部署的 OpenAI-Like 的 LLM（如 DeepSeek）进一步降低成本（目前 Qwen 费用可控）
2. 支持'把这张图发给领导'自动生成图片 + 关键洞察总结
3. 多模态：支持上传活动海报 → 问'这个活动数据表现如何'
4. Agent 间协作：运营异常监控 Agent（发现指标突降自动告警）

八、写在最后

「AI 问数」是产品第一次把 Spring AI 从 PoC 真正落地到生产的重磅项目，亲身体会是：Spring AI 已经完全可以支撑企业级 ChatBI 场景，开发体验比 LangChain4j 更 Spring-native，生产稳定性也更让我们放心。