LangChain4j 集成国产大模型（通义千问、文心一言、智谱 AI）详解

2. 核心代码实现

import dev.langchain4j.model.chat.ChatLanguageModel;
import dev.langchain4j.model.dashscope.QwenChatModel;
import dev.langchain4j.model.ernie.ErnieChatModel;
import dev.langchain4j.model.zhipuai.ZhipuAiChatModel;
import dev.langchain4j.model.output.Response;
import java.time.Duration;

public class ChineseLlmIntegrationDemo {
    // ==================== 1. 通义千问集成 ====================
    /**
     * 构建通义千问模型（支持 qwen-turbo/qwen-plus/qwen-max 等版本）
     * @param apiKey 阿里云 DashScope 的 API Key（控制台获取）
     * @param modelName 模型版本
     * @return 通义千问 Chat 模型
     */
    private static ChatLanguageModel buildQwenModel(String apiKey, String modelName) {
        return QwenChatModel.builder()
                .apiKey(apiKey)
                .modelName(modelName) // 核心：指定模型版本
                .temperature(0.7) // 随机性
                .topP(0.8) // 采样策略
                .maxTokens(2048) // 输出最大 Token 数
                .timeout(Duration.ofMinutes(1)) // 超时时间
                .build();
    }

    // ==================== 2. 文心一言集成 ====================
    /**
     * 构建文心一言模型（支持 ernie-3.5/ernie-4.0/ernie-speed 等版本）
     * @param apiKey 百度 API Key
     * @param secretKey 百度 Secret Key
     * @param modelName 模型版本
     * @return 文心一言 Chat 模型
     */
    private static ChatLanguageModel buildErnieModel(String apiKey, String secretKey, String modelName) {
        return ErnieChatModel.builder()
                .apiKey(apiKey)
                .secretKey(secretKey) // 文心一言需同时配置 API Key+Secret Key
                .modelName(modelName)
                .temperature(0.6)
                .penaltyScore(1.0f) // 文心专属：重复惩罚系数
                .timeout(Duration.ofMinutes(1))
                .build();
    }

    // ==================== 3. 智谱 AI 集成 ====================
    /**
     * 构建智谱 AI 模型（支持 glm-4/glm-4v/glm-3-turbo 等版本）
     * @param apiKey 智谱 AI 的 API Key（控制台获取）
     * @param modelName 模型版本
     * @return 智谱 AI Chat 模型
     */
    private static ChatLanguageModel buildZhipuAiModel(String apiKey, String modelName) {
        return ZhipuAiChatModel.builder()
                .apiKey(apiKey)
                .modelName(modelName)
                .temperature(0.7)
                .maxTokens(4096)
                .timeout(Duration.ofMinutes(1))
                .build();
    }

    // ==================== 通用调用方法 ====================
    /**
     * 统一调用接口（面向 ChatLanguageModel 接口编程，适配所有模型）
     * @param model 任意 Chat 模型实例
     * @param prompt 提示词
     * @return 模型响应
     */
    public static String invokeLlm(ChatLanguageModel model, String prompt) {
        try {
            return model.generate(prompt);
        } catch (Exception e) {
            // 生产环境建议封装自定义异常
            throw new RuntimeException("调用国产大模型失败：" + e.getMessage(), e);
        }
    }

    // ==================== 测试入口 ====================
    public static void main(String[] args) {
        // 注意：生产环境绝对不要硬编码密钥！建议通过环境变量/KMS 管理
        String qwenApiKey = "你的通义千问 API Key";
        String ernieApiKey = "你的文心一言 API Key";
        String ernieSecretKey = "你的文心一言 Secret Key";
        String zhipuApiKey = "你的智谱 AI API Key";

        // 1. 调用通义千问（qwen-turbo：性价比高，通用场景）
        ChatLanguageModel qwenModel = buildQwenModel(qwenApiKey, "qwen-turbo");
        String qwenResponse = invokeLlm(qwenModel, "用一句话总结 LangChain4j 的核心优势");
        System.out.println("=== 通义千问响应 ===");
        System.out.println(qwenResponse);

        // 2. 调用文心一言（ernie-3.5：通用场景首选）
        ChatLanguageModel ernieModel = buildErnieModel(ernieApiKey, ernieSecretKey, "ernie-3.5");
        String ernieResponse = invokeLlm(ernieModel, "用一句话总结 LangChain4j 的核心优势");
        System.out.println("\n=== 文心一言响应 ===");
        System.out.println(ernieResponse);

        // 3. 调用智谱 AI（glm-4：复杂推理场景）
        ChatLanguageModel zhipuModel = buildZhipuAiModel(zhipuApiKey, "glm-4");
        Response<String> zhipuFullResponse = zhipuModel.generateRaw("用一句话总结 LangChain4j 的核心优势");
        System.out.println("\n=== 智谱 AI 响应 ===");
        System.out.println("响应内容：" + zhipuFullResponse.content());
        System.out.println("Token 消耗：" + zhipuFullResponse.tokenUsage());
    }
}

3. 关键细节解释

（1）各模型核心配置差异

（2）国产模型专属参数

• 文心一言：penaltyScore（重复惩罚系数）是专属参数，用于降低响应重复率，默认 1.0 即可；
• 通义千问：支持 enableSearch 参数（开启联网搜索），适合需要实时信息的场景；
• 智谱 AI：glm-4v 支持多模态（图文理解），需额外配置图像参数。

（3）多模态调用示例（以通义千问为例）

// 通义千问多模态调用（qwen-vl 支持图文理解）
import dev.langchain4j.model.dashscope.QwenVisionModel;

public static String invokeQwenVision(String apiKey, String prompt, String imageUrl) {
    QwenVisionModel visionModel = QwenVisionModel.builder()
            .apiKey(apiKey)
            .modelName("qwen-vl-plus") // 多模态模型版本
            .build();
    // 传入图片 URL 和文本提示，分析图片内容
    return visionModel.generate(prompt, imageUrl);
}

面试高频扩展问题

1. 国产模型与 OpenAI 模型的调用差异？

• 密钥体系不同：文心一言需双密钥（API Key+Secret Key），OpenAI 仅需单 API Key；
• 模型参数差异：国产模型有专属参数（如文心的 penaltyScore）；
• 网络环境：国产模型无需科学上网，访问更稳定；
• 上下文长度：智谱 GLM-4 支持 128k 上下文，部分国产模型上下文长度优于 GPT-3.5。

2. 如何实现国产模型的故障降级？

// 故障降级实现（生产环境常用）
public static String invokeWithFallback(String prompt) {
    // 1. 优先调用通义千问
    try {
        ChatLanguageModel qwenModel = buildQwenModel(qwenApiKey, "qwen-turbo");
        return qwenModel.generate(prompt);
    } catch (Exception e) {
        System.err.println("通义千问调用失败，降级到文心一言：" + e.getMessage());
        // 2. 降级到文心一言
        try {
            ChatLanguageModel ernieModel = buildErnieModel(ernieApiKey, ernieSecretKey, "ernie-3.5");
            return ernieModel.generate(prompt);
        } catch (Exception ex) {
            System.err.println("文心一言调用失败，降级到智谱 AI：" + ex.getMessage());
            // 3. 最终降级到智谱 AI
            ChatLanguageModel zhipuModel = buildZhipuAiModel(zhipuApiKey, "glm-3-turbo");
            return zhipuModel.generate(prompt);
        }
    }
}

3. 生产环境最佳实践？

• 密钥管理：通过环境变量/KMS（如阿里云 KMS、HashiCorp Vault）管理 API Key，杜绝硬编码；
• 参数调优：根据场景调整 temperature（通用场景 0.6-0.7，创作场景 0.8-0.9）；
• 异常处理：封装统一的异常拦截器，记录调用日志和 Token 消耗；
• 性能优化：使用异步调用（generateAsync）提升并发能力。

总结

1. 集成核心：LangChain4j 通过专属依赖（如 langchain4j-dashscope）适配国产模型，所有模型均实现 ChatLanguageModel 接口，保证调用方式统一；
2. 配置差异：
   • 通义千问：仅需 DashScope API Key，支持多模态；
   • 文心一言：需 API Key+Secret Key，中文理解最优；
   • 智谱 AI：仅需 API Key，逻辑推理能力突出；
3. 工程实践：掌握故障降级、异步调用、密钥安全管理等工程实践，理解国产模型与 OpenAI 的核心差异。