大模型时代 Java 程序员如何借助 LangChain4j 构建智能应用

Gradle

implementation 'dev.langchain4j:langchain4j-open-ai:0.30.0'

3. 导入 API 密钥

获取 OpenAI 或其他 LLM 服务提供商的 API 密钥，并将其作为环境变量导入。例如，使用 OpenAI 时：

String apiKey = System.getenv("OPENAI_API_KEY");
if (apiKey == null || apiKey.isEmpty()) {
    throw new IllegalStateException("OpenAI API Key not found in environment variables");
}

三、基础功能实战

1. 创建模型实例

使用 API 密钥创建模型实例，例如创建 OpenAI 的 Chat 模型：

OpenAiChatModel model = OpenAiChatModel.builder()
    .apiKey(apiKey)
    .modelName("gpt-3.5-turbo")
    .temperature(0.7)
    .build();

2. 生成回答

使用模型生成回答：

String answer = model.generate("Hello world!");
System.out.println(answer); // 输出模型的响应

3. 提取结构化信息

LangChain4j 也支持从非结构化数据中提取结构化信息。例如，定义一个 PersonExtractor 接口来从文本中提取人名、姓氏和出生日期：

class Person {
    private String firstName;
    private String lastName;
    private LocalDate birthDate;
    // Getters and Setters omitted for brevity
}

interface PersonExtractor {
    @UserMessage("Extract information about a person from {{text}}")
    Person extractPersonFrom(@V("text") String text);
}

PersonExtractor extractor = AiServices.create(PersonExtractor.class, model);
String text = "In 1968, amidst the fading echoes of Independence Day, a child named John arrived under the calm evening sky. This newborn, bearing the surname Doe, marked the start of a new journey.";
Person person = extractor.extractPersonFrom(text);
System.out.println(person.getFirstName() + " " + person.getLastName());

四、高级应用场景：RAG 与 Agent

1. 检索增强生成（RAG）

RAG 是解决大模型幻觉和知识滞后性的关键技术。在 LangChain4j 中，我们可以结合 Embedding Model 和 Vector Store 来实现。

第一步：初始化 Embedding Model

EmbeddingModel embeddingModel = OpenAiEmbeddingModel.withApiKey(apiKey);

第二步：加载文档并分块

Document document = Document.from("LangChain4j is a framework for building LLM applications.");
List<Document> documents = Collections.singletonList(document);
// 实际场景中通常使用 DocumentLoader 加载 PDF、Word 等文件

第三步：创建向量索引

InMemoryEmbeddingStore<TextSegment> embeddingStore = new InMemoryEmbeddingStore<>();
EmbeddingStoreTextSegmentIndexer indexer = new EmbeddingStoreTextSegmentIndexer(embeddingModel, embeddingStore);
indexer.index(documents);

第四步：查询与生成

Retriever retriever = new EmbeddingStoreRetriever(embeddingStore, embeddingModel);
String query = "What is LangChain4j?";
List<TextSegment> relevantSegments = retriever.findRelevant(query, 3);
String context = relevantSegments.stream()
    .map(TextSegment::getTextSegment)
    .collect(Collectors.joining("\n"));

String prompt = String.format("Context: %s\nQuestion: %s\nAnswer:", context, query);
String response = model.generate(prompt);

2. 智能体（Agent）开发

Agent 允许模型自主调用工具来完成复杂任务。LangChain4j 提供了强大的 Agent 支持。

定义工具

@Tool("Calculates the sum of two numbers")
public int add(int a, int b) {
    return a + b;
}

创建 Agent

ChatLanguageModel chatModel = OpenAiChatModel.withApiKey(apiKey);
List<ToolProvider> toolProviders = List.of(new ToolProvider() {
    @Override
    public List<ToolSpecification> getToolSpecifications() {
        return List.of(ToolSpecification.builder()
            .name("add")
            .description("Calculates the sum of two numbers")
            .parameters(ParameterSpec.objectBuilder()
                .add("a", ParameterSpec.integer("First number"))
                .add("b", ParameterSpec.integer("Second number"))
                .build())
            .build());
    }
    
    @Override
    public Object execute(ToolExecutionRequest executionRequest, Context context) {
        // 执行逻辑
        return 0;
    }
});

AgentExecutor agentExecutor = AgentExecutor.builder()
    .chatLanguageModel(chatModel)
    .toolSpecifications(toolProviders.stream().flatMap(t -> t.getToolSpecifications().stream()).collect(Collectors.toList()))
    .build();

String result = agentExecutor.execute("What is 123 plus 456?");
System.out.println(result);

五、Spring Boot 自动配置

在 Spring Boot 项目中，推荐使用 langchain4j-spring-boot-starter 来简化配置。

1. 添加 Starter 依赖

<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-spring-boot-starter</artifactId>
    <version>0.30.0</version>
</dependency>

2. 配置文件 application.yml

langchain4j:
  openai:
    api-key: ${OPENAI_API_KEY}
    chat-model:
      temperature: 0.7
      max-tokens: 1000

3. 注入使用

@Service
public class ChatService {
    private final ChatLanguageModel chatModel;

    public ChatService(ChatLanguageModel chatModel) {
        this.chatModel = chatModel;
    }

    public String chat(String message) {
        return chatModel.generate(message);
    }
}

六、安全与最佳实践

1. 密钥管理

切勿将 API 密钥硬编码在代码中。应使用环境变量、Vault 或云平台的 Secret Manager 进行存储。在 Spring Boot 中，建议使用 @Value 注解配合外部配置文件。

2. 错误处理

网络请求可能失败，模型可能返回异常内容。建议增加重试机制和超时控制。

try {
    String response = model.generate(prompt);
} catch (Exception e) {
    logger.error("Failed to generate response", e);
    // 降级策略
}

3. 成本优化

• 合理设置 maxTokens 限制。
• 对高频查询结果进行缓存。
• 选择性价比更高的模型版本（如 gpt-3.5-turbo vs gpt-4）。

七、总结

LangChain4j 不仅是 Java 开发者拥抱大模型时代的技术桥梁，更是推动 Java 在人工智能领域创新应用的一股强大力量。通过统一 API、丰富的工具集以及与 Spring Boot 的深度集成，Java 工程师可以快速构建企业级的 AI 应用。在这个智能化转型的关键时期，Java 程序员借助 LangChain4j，完全有理由自信地站在技术浪尖，引领未来。