Java 集成 AI 能力实战：云端 API 与本地模型双方案

账号与工具方面，云端方案需注册阿里云百炼、百度文心一言或 OpenAI 并获取 Key；本地方案则需下载 ONNX 格式模型（如 TinyLlama）并安装 ONNX Runtime。

云端 API 接入

以阿里云百炼为例，国内访问稳定且文档友好。配置 API 密钥到 application.yml：

aliyun:
  dashscope:
    api-key: 你的阿里云百炼 API-Key
    base-url: https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation

封装 AI 调用工具类时，利用 WebClient 发送 POST 请求。这里要注意同步调用适合新手，高并发场景建议改为异步 Mono/Flux。

import cn.hutool.http.Header;
import com.fasterxml.jackson.databind.ObjectMapper;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.http.MediaType;
import org.springframework.stereotype.Component;
import org.springframework.web.reactive.function.client.WebClient;
import java.util.HashMap;
import java.util.Map;

@Component
public class AIClient {
    @Value("${aliyun.dashscope.api-key}")
    private String apiKey;
    @Value("${aliyun.dashscope.base-url}")
    private String baseUrl;

    public String callAI(String prompt) {
        try {
            Map<String, Object> requestBody = new HashMap<>();
            requestBody.put("model", "qwen-turbo");
            requestBody.put("input", Map.of("messages", new Object[]{Map.of("role", "user", "content", prompt)}));
            requestBody.put("parameters", Map.of("result_format", "text"));

            String response = WebClient.create(baseUrl)
                    .post()
                    .header(Header.AUTHORIZATION.getValue(), "Bearer " + apiKey)
                    .contentType(MediaType.APPLICATION_JSON)
                    .bodyValue(new ObjectMapper().writeValueAsString(requestBody))
                    .retrieve()
                    .bodyToMono(String.class)
                    .block();

            Map<String, Object> resultMap = new ObjectMapper().readValue(response, Map.class);
            Map<String, Object> output = (Map<String, Object>) resultMap.get("output");
            return (String) output.get("text");
        } catch (Exception e) {
            e.printStackTrace();
            return "AI 调用失败，请重试！";
        }
    }
}

实际使用时，构造精准的 Prompt 是关键。例如生成 Java 实体类时，明确指定 Lombok 注解、字段类型及构造方法要求。

本地化模型调用

若数据不能出内网，可通过 ONNX Runtime 在 Java 中调用本地轻量模型。这涉及文本预处理、张量转换及结果解析。

import ai.onnxruntime.*;
import org.springframework.stereotype.Component;
import java.nio.FloatBuffer;
import java.util.Collections;
import java.util.Map;

@Component
public class LocalAIModelClient {
    private OrtSession session;

    public LocalAIModelClient() {
        try {
            OrtEnvironment env = OrtEnvironment.getEnvironment();
            String modelPath = "D:/ai_models/text_classification.onnx";
            session = env.createSession(modelPath, new OrtSession.SessionOptions());
        } catch (OrtException e) {
            e.printStackTrace();
        }
    }

    public String classifyText(String text) {
        try {
            float[] textTensorData = preprocessText(text);
            OnnxTensor inputTensor = OnnxTensor.createTensor(
                OrtEnvironment.getEnvironment(),
                FloatBuffer.wrap(textTensorData),
                new long[]{1, textTensorData.length}
            );
            Map<String, OnnxTensor> inputs = Collections.singletonMap("input", inputTensor);
            OrtSession.Result result = session.run(inputs);
            float[] output = ((float[][]) result.get(0).getValue())[0];
            return getCategoryByScore(output);
        } catch (Exception e) {
            e.printStackTrace();
            return "分类失败";
        }
    }

    private float[] preprocessText(String text) {
        // 实际项目中需集成分词库，此处简化返回示例数据
        return new float[]{0.1f, 0.2f, 0.3f};
    }

    private String getCategoryByScore(float[] scores) {
        int maxIndex = 0;
        float maxScore = scores[0];
        for (int i = 1; i < scores.length; i++) {
            if (scores[i] > maxScore) {
                maxScore = scores[i];
                maxIndex = i;
            }
        }
        return switch (maxIndex) {
            case 0 -> "正面";
            case 1 -> "负面";
            case 2 -> "中性";
            default -> "未知";
        };
    }
}

生产环境优化

落地后需考虑高并发与稳定性。将同步调用改为异步可避免线程阻塞；增加请求限流防止 API 超限；对重复 Prompt 使用本地缓存减少调用次数。异常兜底同样重要，当 AI 服务不可用时，应返回默认模板或备用接口。

此外，云端 API 的成本控制不可忽视。精简 Prompt 字符、对接用量监控 API、合并批量请求都是有效的降本手段。

常见场景

代码生成、智能客服、日志分析、数据脱敏及 OCR 识别是 Java 结合 AI 的高频场景。建议先从代码生成等轻量级任务入手，验证效果后再扩展到核心业务。