DeepSeek Janus-Pro 多模态大模型本地部署指南

六、安装项目依赖

进入项目根目录后，安装基础依赖包。使用 -e 参数表示以可编辑模式安装，方便后续修改代码。

pip install -e .

为了加快下载速度，建议使用国内镜像源（如清华大学开源软件镜像站）：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -e .

七、安装 Gradio 界面库

Gradio 是一个开源 Python 库，允许用户快速构建 Web 应用程序界面，用于演示和测试机器学习模型。通过它，可以轻松创建用户友好的界面，输入文本或图像并查看模型预测结果。

7.1 安装命令

pip install gradio

使用镜像源安装示例：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple --upgrade gradio

7.2 验证安装

运行 Python 并检查版本号：

import gradio as gr
print(gr.__version__)

八、配置与启动模型

8.1 修改模型参数

Janus-Pro 默认启动可能加载较大的模型（如 7B），这对本地电脑显存压力较大。建议修改为使用 1B 参数的轻量级模型，以便在 8GB 显存的设备上勉强运行。

找到克隆下来的仓库中的 demo/app_januspro.py 文件，使用编辑器打开，定位到第 15 行左右，将模型路径修改为：

model_path = "deepseek-ai/Janus-Pro-1B"

8.2 启动服务

运行以下命令启动 Janus-Pro 服务：

python demo/app_januspro.py

注意：首次启动时，程序会从 Hugging Face 拉取模型权重文件（约 4GB）。如果遇到网络问题，请配置代理或设置环境变量 HF_ENDPOINT 使用镜像地址。

启动成功后，终端会显示访问地址，通常为 http://127.0.0.1:7860。在浏览器中输入该地址即可访问 Gradio 页面。

九、使用指南

进入 Gradio 界面后，可以看到文生图功能的输入框：

1. 在文本输入框中输入提示词（Prompt），描述希望生成的图像内容。
2. 点击'生成'按钮等待模型输出。
3. 生成的图像将显示在界面上，支持下载保存。

十、常见问题排查

10.1 显存不足 (OOM)

如果运行过程中出现 CUDA out of memory 错误，说明显存不足以加载模型。尝试以下方法：

• 关闭其他占用 GPU 的程序。
• 降低批次大小（Batch Size）。
• 切换至 1B 模型版本。

10.2 模型下载失败

由于模型托管在 Hugging Face，国内网络可能无法直接访问。解决方法：

• 配置 HTTP/HTTPS 代理。
• 使用 huggingface-cli 工具预下载模型文件。
• 设置环境变量：export HF_ENDPOINT=https://hf-mirror.com

10.3 依赖冲突

如果安装依赖时报错，建议重新创建干净的 Conda 环境，并确保 Python 版本符合项目要求（通常 3.10-3.12）。

十一、总结

本文详细介绍了 DeepSeek Janus-Pro 多模态大模型的本地部署流程。通过配置 Conda 环境、安装 PyTorch 及 Gradio 依赖、调整模型参数，用户可以在本地 PC 上体验文生图能力。随着硬件条件的提升，未来可尝试更大规模的模型以获得更高质量的生成效果。