SpringAI 大模型应用开发新手入门指南

2.2 配置 application.yaml 文件

我们需要配置模型 API 的密钥及端点信息。

spring:
  ai:
    openai:
      chat:
        options:
          model: gpt-4o-mini # 或 deepseek-chat
          temperature: 0.7
      api-key: ${OPENAI_API_KEY}

2.3 配置 ChatClient

ChatClient.builder() 会返回一个构建器对象，允许我们灵活选择模型并添加自定义配置。这是 SpringAI 的核心入口。

@Bean
public ChatClient chatClient(ChatClient.Builder builder) {
    return builder.build();
}

2.4 同步调用

定义 Controller 接收用户提示词，发送给大模型处理并返回结果。call() 方法是同步阻塞的，需等待完整响应。

@RestController
@RequestMapping("/ai")
public class AiController {

    @Autowired
    private ChatClient chatClient;

    @GetMapping("/chat")
    public String chat(@RequestParam String prompt) {
        Prompt p = new Prompt(prompt);
        return chatClient.call(p).getResult().getOutput().getContent();
    }
}

启动后访问 http://localhost:8080/ai/chat?prompt=你好 即可测试。

2.5 流式调用

同步调用体验较差，页面需等待很久。SpringAI 基于 WebFlux 实现了流式输出（SSE），能实时展示生成内容。

@GetMapping("/stream")
public Flux<String> streamChat(@RequestParam String prompt) {
    Prompt p = new Prompt(prompt);
    return chatClient.stream(p)
        .map(chatResponse -> chatResponse.getResult().getOutput().getContent());
}

前端需配合 SSE 接收器处理流数据。

2.6 System 设定

默认情况下 AI 会回答自己的底层身份（如 DeepSeek-R1）。若希望它扮演特定角色，需在创建 ChatClient 时指定 System Message。

Prompt p = new Prompt(new UserMessage(prompt), new SystemMessage("你是一个专业的 Java 助手"));
return chatClient.call(p);

这样每次请求都会携带系统指令，无需手动拼接。

2.7 日志功能

默认不记录 AI 交互细节，调试困难。SpringAI 基于 AOP 机制提供 Advisor 增强。

常用 Advisor 包括：

1. SimpleLoggerAdvisor：打印日志。
2. MessageChatMemoryAdvisor：会话记忆。
3. QuestionAnswerAdvisor：RAG 支持。

启用日志只需在配置中添加 Advisor：

@Bean
public ChatClient chatClient(ChatClient.Builder builder) {
    return builder
        .defaultAdvisors(new SimpleLoggerAdvisor())
        .build();
}

同时调整日志级别为 DEBUG，控制台即可看到完整的 Prompt 和 Response。

2.8 会话记忆功能

AI 默认是无记忆的，每次对话都是独立的。SpringAI 内置了 ChatMemory 接口，自动将历史对话拼接到 Prompt 中。

2.8.1 ChatMemory

ChatMemory 关联 conversationId，不同会话 ID 的记忆相互隔离。

常见实现：

1. InMemoryChatMemory：内存存储，适合开发测试。
2. CassandraChatMemory：持久化到数据库，生产环境可用。

2.8.2 添加会话记忆功能

注册 ChatMemory Bean 并注入到 ChatClient 中。

@Bean
public ChatMemory chatMemory() {
    return InMemoryChatMemory.builder()
        .messageProvider(MessageProvider.of((userId) -> userId))
        .build();
}

@Bean
public ChatClient chatClient(ChatClient.Builder builder) {
    return builder
        .defaultAdvisors(new MessageChatMemoryAdvisor(chatMemory()))
        .build();
}

调用时传入用户 ID 区分会话：

String response = chatClient.prompt()
    .user(prompt)
    .context("user-id", "123")
    .call()
    .getResult()
    .getOutput()
    .getContent();

这样 AI 就能记住之前的上下文了。