AI测试大模型测试(十)spring集成大模型(SpringAI)
目录
步骤一： 去deepseek平台对应大模型平台申请app key
步骤三： 配置文件，在 application.properties文件中添加 DeepSeek 的配置信息
1.1 SpringAI简介
1.2 需要环境
- JDK 17 或更高版本（注：springboot项目）
- maven或 Gradle 构建工具
- DeepSeek API Key
1.3 示例-对话&流式调用
步骤一： 去deepseek平台对应大模型平台申请app key
申请地址：https://api-docs.deepseek.com/zh-cn/
使用curl测试一下appkey(调用deepseek的api接口测试一下):
curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer sk-xxx" -d '{"model": "deepseek-chat","messages": [{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Hello!"}],"stream":false}' https://api.deepseek.com/chat/completions
ps, 余额不足返回： {"error":{"message":"Insufficient Balance","type":"unknown_error","param":null,"code":"invalid_request_error"}}
步骤二： 添加pom
<dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> </dependency> </dependencies>步骤三： 配置文件，在 application.properties文件中添加 DeepSeek 的配置信息
spring.ai.openai.api-key=xxx
spring.ai.openai.base-url=https://api.deepseek.com # 模型选择（示例使用对话模型）
spring.ai.openai.chat.options.model=deepseek-chat
注意：
其中，api-key 是在 DeepSeek 官网注册后获取的密钥，base-url 是 DeepSeek API 的服务地址，model 指定使用的模型版本。DeepSeek支持的模型：
- deepseek-chat（V3）：适用于聊天机器人、智能客服、内容生成等，能够理解和生成日常对话内容。
- deepseek-reasoner（R1）：专为复杂推理任务设计，适合解决需要深度逻辑分析和推理的问题。
比如：
步骤四：【示例】流式响应 & 流式响应
import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.*; @RestController @RequestMapping("/chat") public class AIChatController { @Autowired private DeepSeekClient deepSeekClient; //用于处理普通的非流式请求 @PostMapping("/chat") public String chat(@RequestBody String message) { return deepSeekClient.chatCompletion(message).getOutput().getContent(); } //支持流式响应，能够实时返回 AI 的推理结果 @GetMapping(value = "/chatstream", produces = "text/event-stream") public Flux<String> chatStream(@RequestParam String message) { return deepSeekClient.chatFluxCompletion(message) .map(response -> response.getOutput().getContent()); } }1.4 ChatClient接口
ChatClient是一个接口，它定义了一个与聊天服务交互的客户端。这个接口主要用于创建聊天客户端对象，设置请求规范，以及发起聊天请求。
@RestController public class DeepSeekController { private final ChatClient chatClient; public ChatDeepSeekController(ChatClient.Builder chatClientBuilder) { this.chatClient = chatClientBuilder.build(); } @GetMapping("/chat2") public String chat2(@RequestParam(value = "msg",defaultValue = "介绍一下杜甫") String message) { //prompt:提示词 return this.chatClient.prompt() //用户输入的信息 .user(message) //请求大模型 .call() //返回文本 .content(); } }更多示例(预设角色)
@Configuration public class AIConfig { @Bean public ChatClient chatClient(ChatClient.Builder builder) { return builder.defaultSystem("你是一名资深开发工程师，你的名称教sfri).build(); } }流式输出
@GetMapping(value = "/chat/stream",produces="text/html;charset=UTF-8") public Flux<String> chatStream(@RequestParam(value = "msg") String message) { return chatClient.prompt().user(message).stream().content(); }1.5 ChatModel接口
ChatClient底层是使用ChatModel作为属性的，在初始化ChatClient的时候可以指定ChatModel
1.6 示例-函数调用
- 允许大语言模型在生成回答时触发预定义的外部函数，从而实现动态数据获取或业务逻辑操作（如查询数据库、调用 API 等）。
- Spring AI 作为企业级 AI 开发框架，在 1.0.0.M6 版本中进行了重要升级：废弃 Function Calling 引入 Tool Calling 以更贴合行业术语。Spring AI 不会在内部处理函数调用，而是将其代理到客户端。然后，客户端负责处理函数调用，将其分派到相应的函数并返回结果。
Spring AI的函数调用工作原理图核心流程如下：
- 工具元数据注入：将工具描述（name/description）、参数结构（input schema）等元数据封装至请求体，建立大模型的工具调用能力基线。
- 模型决策响应：大模型根据上下文推理生成工具调用指令（
tool_calls字段），返回包含选定工具名称及结构化参数的中间响应。 - 服务端路由执行：Spring AI模块解析工具调用指令，通过服务发现机制定位目标工具实例，注入参数并触发同步/异步执行。
- 执行结果标准化：工具返回原始执行结果后，系统进行数据类型校验、异常捕获和JSON序列化处理，生成模型可解析的标准化数据结构。
- 上下文增强推理：将标准化结果作为新增上下文（
tool_outputs）回传大模型，触发基于增强上下文的二次推理流程。 - 终端响应生成：模型综合初始请求与工具执行结果，生成最终自然语言响应，完成工具增强的对话闭环。
例子
参考：https://cloud.tencent.com.cn/developer/article/2527674
步骤一： 定义函数
步骤二：允许同时调用多个函数
@GetMapping(value = "/chatfuntion", produces = "application/json") public String ragJsonText(@RequestParam(value = "userMessage") String userMessage){ return chatClient .prompt() .system("您是算术计算器的代理。\n" + "您能够支持加法运算、乘法运算等操作，其余功能将在后续版本中添加，如果用户问的问题不支持请告知详情。\n" + "在提供加法运算、乘法运算等操作之前，您必须从用户处获取如下信息：两个数字，运算类型。\n" + "请调用自定义函数执行加法运算、乘法运算。\n" + "请讲中文。") .user(userMessage) .functions("addOperation", "mulOperation") .call() .content(); }执行结果：
1.7 提示词
@GetMapping("/prompt") public String prompt(@RequestParam("name") String name, @RequestParam("voice") String voice){ String userText= "给我推荐北京的至少三种美食"; UserMessage userMessage = new UserMessage(userText); String systemText= "你是一个美食咨询助手，可以帮助人们查询美食信息.你的名字是{name},你应该用你的名字和{voice}的饮食习惯回复用户的请求。"; SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemText); //替换占位符 Message systemMessage = systemPromptTemplate .createMessage(Map.of("name", name, "voice", voice)); Prompt prompt = new Prompt(List.of(userMessage, systemMessage)); return chatClient.prompt(prompt) //请求大模型 .call() //返回文本 .content(); }执行结果：
1.8 Spring AI官方文档
https://www.spring-doc.cn/spring-ai/1.1.0/api_chat-memory.html
参考
https://cloud.tencent.com/developer/article/2486290
https://www.spring-doc.cn/spring-ai/1.1.0/api_chatmodel.html
