本地搭建简易 AI 问答系统：Java 核心与 Python 辅助

注意事项

• 若无 NVIDIA 显卡，模型会自动用 CPU 运行（速度较慢，建议 8G 以上内存）；
• 首次运行会加载模型，耗时约 1-2 分钟（视硬件而定）。

四、Java 端：核心逻辑与交互

1. 创建 Maven 项目

无需额外依赖，核心用 ProcessBuilder 调用 Python 脚本，实现用户交互。

2. 核心 Java 代码（AI 问答系统主类）

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.util.Scanner;

public class AIQASystem {
    // Python 脚本路径（根据实际路径调整）
    private static final String PYTHON_SCRIPT_PATH = "./ai_answer.py";
    // Python 解释器路径（若已配置环境变量，直接写"python"即可）
    private static final String PYTHON_EXECUTABLE = "python";

    public static void main(String[] args) {
        Scanner scanner = new Scanner(System.in);
        System.out.println("===== 本地 AI 问答系统 =====");
        System.out.println("输入问题（输入'exit'退出）：");
        while (true) {
            System.out.print("> ");
            String question = scanner.nextLine().trim();
            // 退出逻辑
            if ("exit".equalsIgnoreCase(question)) {
                System.out.println("系统退出中...");
                break;
            }
            // 空问题校验
            if (question.isEmpty()) {
                System.out.println("请输入有效问题！");
                continue;
            }
            // 调用 Python 获取回答
            String answer = callPythonAI(question);
            // 展示回答
            System.out.println("AI 回答：\n" + answer + "\n");
        }
        scanner.close();
    }

    /**
     * 调用 Python 脚本，获取 AI 回答
     * @param question 用户输入的问题
     * @return AI 生成的回答
     */
    private static String callPythonAI(String question) {
        ProcessBuilder processBuilder = new ProcessBuilder(PYTHON_EXECUTABLE, PYTHON_SCRIPT_PATH, question);
        // 合并错误流（便于调试 Python 报错）
        processBuilder.redirectErrorStream(true);
        StringBuilder answer = new StringBuilder();
        try {
            Process process = processBuilder.start();
            // 读取 Python 脚本的输出
            BufferedReader reader = new BufferedReader(new InputStreamReader(process.getInputStream()));
            String line;
            while ((line = reader.readLine()) != null) {
                answer.append(line);
            }
            // 等待进程结束
            int exitCode = process.waitFor();
            if (exitCode != 0) {
                answer = new StringBuilder("AI 服务调用失败，退出码：" + exitCode + "，错误信息：" + answer);
            }
        } catch (IOException | InterruptedException e) {
            answer = new StringBuilder("调用 Python 脚本异常：" + e.getMessage());
        }
        return answer.toString();
    }
}

3. 代码说明

• ProcessBuilder：用于启动 Python 进程，传递用户问题作为参数；
• redirectErrorStream(true)：将 Python 的错误输出合并到标准输出，便于调试；
• 核心方法 callPythonAI：封装调用逻辑，返回 AI 回答（含异常处理）；
• 控制台交互：循环接收用户输入，输入 exit 退出系统。

五、运行与调试

1. 文件目录结构

确保文件路径正确，推荐结构：

ai-qa-system/
├── ai_answer.py          # Python AI 脚本
├── models/
│   └── chatglm-6b-int4   # 下载的轻量化模型
└── src/
    └── main/
        └── java/
            └── AIQASystem.java  # Java 主类

2. 运行步骤

1. 在控制台输入问题（如'Spring Boot 是什么？'），等待 AI 返回回答。

编译并运行 Java 代码（IDEA/Eclipse 直接运行 AIQASystem 类，或用命令行）：

# 编译
javac AIQASystem.java
# 运行
java AIQASystem

先确认 Python 脚本能独立运行：

python ai_answer.py "什么是 Java？"

若能输出回答，说明 Python 端正常；

3. 常见问题排查

• Python 脚本找不到：检查 PYTHON_SCRIPT_PATH 是否为绝对路径；
• Python 解释器报错：替换 PYTHON_EXECUTABLE 为绝对路径（如 C:\Python39\python.exe）；
• 模型加载失败：确认模型路径正确，或重新下载模型；
• 内存不足：关闭其他程序，或换用更小的模型（如 ChatGLM-6B-int8）。

六、扩展优化方向

1. 性能优化：
   • 将 Python 脚本改为常驻服务（如 Flask API），避免每次调用重新加载模型；
   • 使用 GPU 加速（需安装 CUDA、cuDNN）。
2. 交互优化：
   • 开发简单的 Swing/JavaFX 图形界面，替代控制台；
   • 支持多轮对话（Java 端维护对话历史，传递给 Python）。
3. 功能扩展：
   • 添加问题分类、关键词提取（Java 实现）；
   • 接入本地知识库（如读取 txt/Excel 文件，结合 AI 回答）；
   • 替换模型（如 Llama2、Baichuan-7B 等）。
4. 部署优化：
   • 打包为可执行 JAR 包，配合 Python 脚本发布；
   • 使用 Docker 容器化，统一环境配置。

总结

本系统通过 Java 实现核心交互与逻辑控制，Python 负责 AI 模型的调用，兼顾了 Java 的易用性和 Python 在 AI 领域的生态优势，是本地搭建轻量化 AI 问答系统的极简方案。你可以基于此框架，根据自身需求扩展功能，比如对接本地数据、优化交互体验，或替换更适配的 AI 模型。