Java LLM 开发框架全面解析：从 Spring AI 到 Agents-Flex

1.3 应用场景

Spring AI 特别适合基于 Spring Boot 的企业级应用，尤其是需要快速集成 AI 能力的传统 Java 项目。典型应用场景包括：

• 智能客服系统：集成问答能力到现有企业系统
• 内容生成：自动生成产品描述、营销文案等
• 数据增强：通过 AI 增强现有数据分析和处理流程

2 LangChain4j：功能全面的 AI 工具箱

LangChain4j 是流行 Python 库 LangChain 的 Java 实现，提供从模型交互到复杂智能体的全方位支持。尽管功能强大，但其概念和 API 相对复杂，学习曲线较陡，对新手开发者可能造成一定挑战。

2.1 核心概念与特性

LangChain4j 提供了丰富的功能模块：

• 提示词模板：支持动态生成提示词
• 聊天记忆管理：维护对话上下文状态
• 智能体：创建自主决策的 AI 智能体
• 函数调用：让模型能够调用外部方法和工具
• RAG 支持：实现检索增强生成流程
• 多模态支持：处理文本和图像模型

2.2 快速入门示例

首先添加 LangChain4j 依赖：

<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-open-ai</artifactId>
    <version>0.25.0</version>
</dependency>

创建一个简单的聊天应用：

public class SimpleChat {
    public static void main(String[] args) {
        OpenAiChatModel model = OpenAiChatModel.builder()
                .apiKey("YOUR_OPENAI_API_KEY")
                .modelName("gpt-3.5-turbo")
                .build();
        String response = model.generate("请问你叫什么名字");
        System.out.println(response);
    }
}

使用聊天记忆功能：

class ChatWithMemory {
    public static void main(String[] args) {
        OpenAiChatModel model = OpenAiChatModel.builder().apiKey("YOUR_OPENAI_API_KEY").build();
        ChatMemory memory = MessageWindowChatMemory.withMaxMessages(10);
        // 第一次对话
        String userMessage1 = "我叫张三";
        String assistantReply1 = model.generate(userMessage1, memory);
        System.out.println("Assistant: " + assistantReply1);
        // 第二次对话，模型会记住上下文
        String userMessage2 = "我叫什么名字？";
        String assistantReply2 = model.generate(userMessage2, memory);
        System.out.println("Assistant: " + assistantReply2);
    }
}

2.3 高级功能：函数调用

LangChain4j 支持函数调用，让 LLM 能够执行外部定义的方法：

public class FunctionCallingExample {
    // 定义可调用的函数
    @Tool("获取指定城市的天气信息")
    public String getWeatherInfo(@P("城市名称") String cityName) {
        // 这里实际应该调用天气 API
        return cityName + "的天气是晴转多云，气温 20-25 度";
    }
}