Spring AI 框架快速开发大模型项目指南

注意：具体版本号请查阅官方文档获取最新稳定版。

配置 Spring AI

在 application.yml 或 application.properties 中配置 AI 模型参数。例如配置 OpenAI API Key：

spring:
  ai:
    openai:
      chat:
        options:
          model: gpt-3.5-turbo
          temperature: 0.7
      api-key: ${OPENAI_API_KEY}

若使用本地模型（如 Ollama），配置如下：

spring:
  ai:
    ollama:
      chat:
        options:
          model: llama2
      base-url: http://localhost:11434

代码实现示例

1. 创建 Chat Client Bean

在 Spring Boot 启动类或配置类中定义 ChatClient Bean：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class AiConfig {

    @Bean
    public ChatClient chatClient(ChatClient.Builder builder) {
        return builder.build();
    }
}

2. 编写业务逻辑 Controller

创建一个简单的 REST 接口来与大模型交互：

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.*;

@RestController
@RequestMapping("/api/chat")
public class ChatController {

    private final ChatClient chatClient;

    public ChatController(ChatClient.Builder builder) {
        this.chatClient = builder.build();
    }

    @PostMapping("/ask")
    public String ask(@RequestBody String question) {
        // 发送请求并获取响应
        return chatClient.prompt()
                .user(question)
                .call()
                .content();
    }
}

3. 使用 PromptTemplate

对于需要固定格式的提示词，可以使用 PromptTemplate：

import org.springframework.ai.chat.client.advisor.MessageChatMemoryAdvisor;
import org.springframework.ai.chat.memory.InMemoryChatMemory;

// 设置记忆功能
chatClient = chatClient.mutate()
    .defaultAdvisors(new MessageChatMemoryAdvisor(new InMemoryChatMemory()))
    .build();

RAG（检索增强生成）应用

Spring AI 提供了完整的 RAG 支持组件，适用于企业知识库场景。

核心组件

• DocumentLoader：加载文档数据。
• TextSplitter：文本分块策略。
• EmbeddingClient：生成向量嵌入。
• VectorStore：存储和检索向量。

基本流程

1. 加载本地文档（PDF, TXT 等）。
2. 对文本进行分块处理。
3. 调用 Embedding 服务生成向量。
4. 将向量存入 VectorStore。
5. 用户提问时，先检索相关片段，再拼接 Prompt 发送给大模型。

最佳实践与注意事项

1. API 密钥安全：不要将 API Key 硬编码在代码中，建议使用环境变量或配置中心管理。
2. 错误处理：网络波动可能导致调用失败，需增加重试机制和异常捕获。
3. 性能优化：对于长对话，注意上下文长度限制，适时清理历史消息。
4. 成本控制：部分大模型按 Token 计费，需监控调用量。
5. 版本兼容性：Spring AI 更新较快，建议定期关注官方 Release Notes。

总结

Spring AI 为 Java 开发者提供了一个标准化的 AI 集成方案，屏蔽了底层模型的复杂性。通过本文的介绍，您可以快速搭建基于 Spring Boot 的大模型应用原型。随着项目的成熟，可以进一步探索 RAG、Agent 等高级特性，构建更智能的企业级应用。

建议经常查阅官方文档和社区资源以获取最新的功能支持和变更说明。