Spring AI 会话记忆多存储与提示词工程实战

Spring AI 会话记忆多存储与提示词工程

一、基于 Ollama 本地部署的调用

首先下载 Ollama 到本地运行。

1. 引入依赖

推荐使用 Spring AI 1.x 系列（稳定正式版）：

• 适配 Spring Boot：核心适配 3.2.x 系列
• 底层 Spring Framework：6.1.x/6.0.x
• JDK 版本要求：最低 JDK 17

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" ...>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>3.2.10</version>
    </parent>
    <properties>
        <java.version>17</java.version>
        <spring-ai.version>1.0.0</spring-ai.version>
    </properties>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-starter-model-ollama</artifactId>
        </dependency>
        <dependency>
            <groupId>com.mysql</groupId>
            <artifactId>mysql-connector-j</artifactId>
            <scope>runtime</scope>
        </dependency>
    </dependencies>
</project>

2. 配置模型

spring:
  ai:
    ollama:
      base-url: http://localhost:11434
      chat:
        model: deepseek-r1:1.5b

3. 配置客户端

package com.ax.ai.config;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.ollama.OllamaChatModel;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class CommonConfiguration {
    @Bean
    public ChatClient chatClient(OllamaChatModel model) {
        return ChatClient.builder(model)
                .defaultSystem("你是一个网安程序员，你的名字叫超哥，请你以超哥的身份和语气回答我的问题")
                .build();
    }
}

二、使用官方 API 进行调用

修改配置连接阿里云百炼或 OpenAI 兼容接口。

spring:
  ai:
    openai:
      api-key: YOUR_API_KEY
      base-url: https://dashscope.aliyuncs.com/compatible-mode
      chat:
        options:
          model: qwen3-max
          temperature: 0.7

配置类需注入 ChatModel 接口而非具体实现。

三、拓展功能

1. Spring AI 会话记忆

大模型本身不具备记忆功能，需将历史对话内容作为上下文发送。支持以下存储方式：

(1) JVM 内存存储

默认实现，适合本地开发调试。

@Bean
public ChatMemory chatMemory() {
    return new InMemoryChatMemory();
}

(2) 关系型数据库存储

通过自定义实现持久化到 MySQL/PostgreSQL。

@Bean
public ChatMemory chatMemory(JdbcTemplate jdbcTemplate) {
    return new CustomJdbcChatMemory(jdbcTemplate);
}

(3) Redis 存储

• 低版本 Redis：普通聊天记忆存储（文本）。
• Redis 7.0+（带向量检索）：可存储高维向量，用于 RAG/长会话。

2. 数据库表结构

CREATE TABLE IF NOT EXISTS ai_chat_memory (
    id BIGINT AUTO_INCREMENT PRIMARY KEY,
    conversation_id VARCHAR(100) NOT NULL,
    role VARCHAR(20) NOT NULL,
    content TEXT NOT NULL,
    created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
    type VARCHAR(50) NOT NULL DEFAULT 'default'
);

3. 自定义 JDBC 记忆存储

实现 ChatMemory 接口，利用 ThreadLocal 隔离不同业务场景的数据。

package com.ax.ai.memory;
import org.springframework.ai.chat.memory.ChatMemory;
import org.springframework.ai.chat.messages.*;
import org.springframework.jdbc.core.JdbcTemplate;
import java.util.List;

public class CustomJdbcChatMemory implements ChatMemory {
    private final JdbcTemplate jdbcTemplate;
    private static final ThreadLocal<String> CURRENT_TYPE = ThreadLocal.withInitial(() -> "default");

    public void setConversationType(String type) { CURRENT_TYPE.set(type); }
    public void clearConversationType() { CURRENT_TYPE.remove(); }

    @Override
    public void add(String conversationId, List<Message> messages) {
        String type = CURRENT_TYPE.get();
        String sql = "INSERT INTO ai_chat_memory (conversation_id, type, role, content) VALUES (?, ?, ?, ?)";
        for (Message message : messages) {
            jdbcTemplate.update(sql, conversationId, type, 
                message.getMessageType().getValue(), message.getText());
        }
    }

    @Override
    public List<Message> get(String conversationId) {
        String type = CURRENT_TYPE.get();
        // 查询逻辑略，需根据 type 过滤
        return null;
    }
    
    // 其他方法实现...
}

4. 提示词工程

定义系统常量控制角色行为。

public final class SystemConstants {
    public static final String GAME_SYSTEM_PROMPT = "你需要根据以下任务中的描述进行角色扮演...";
}

在配置类中绑定专用 ChatClient。

@Bean
public ChatClient gameChatClient(ChatClient.Builder builder, ChatMemory chatMemory) {
    MessageChatMemoryAdvisor advisor = MessageChatMemoryAdvisor.builder(chatMemory).build();
    return builder
            .defaultSystem(SystemConstants.GAME_SYSTEM_PROMPT)
            .defaultAdvisors(advisor)
            .build();
}

四、项目结构与代码

1. pom.xml 依赖配置

核心依赖包括 spring-boot-starter-web, spring-boot-starter-jdbc, spring-ai-starter-model-openai。

2. application.yaml 参数信息

配置数据源及 AI 模型参数。

3. Controller 层请求处理

通用对话接口与游戏接口分离，确保线程安全。

@RestController
@RequestMapping("/ai")
public class GameController {
    private final ChatClient gameChatClient;
    private final CustomJdbcChatMemory customChatMemory;

    @RequestMapping(value = "/game", produces = "text/html;charset=utf-8")
    public String chat(@RequestParam String prompt, @RequestParam String chatId) {
        try {
            customChatMemory.setConversationType("game");
            return gameChatClient.prompt()
                    .user(prompt)
                    .advisors(a -> a.param(ChatMemory.CONVERSATION_ID, chatId))
                    .call().content();
        } finally {
            customChatMemory.clearConversationType();
        }
    }
}

4. 全局日志切面

记录 AI 交互耗时与输入输出摘要。

@Aspect
@Component
@Slf4j
public class AiLogAspect {
    @Around("execution(* com.ax.ai.controller..*.*(..))")
    public Object logAiInteraction(ProceedingJoinPoint joinPoint) throws Throwable {
        long start = System.currentTimeMillis();
        Object result = joinPoint.proceed();
        long duration = System.currentTimeMillis() - start;
        log.info("AI_REQ [{}ms] | {}", duration, result);
        return result;
    }
}

5. 跨域配置

@Configuration
public class MvcConfiguration implements WebMvcConfigurer {
    @Override
    public void addCorsMappings(CorsRegistry registry) {
        registry.addMapping("/**")
                .allowedOrigins("http://localhost:5173")
                .allowedMethods("GET", "POST", "PUT", "DELETE", "OPTIONS");
    }
}