DeepSeek-OCR-WebUI 部署指南：支持 7 种识别模式与 GPU 加速

2. 环境准备

本教程基于 Ubuntu 24.04.3 Server 环境。

2.1 安装 Docker

# 更新软件包索引
sudo apt-get update

# 安装必要的软件包
sudo apt-get install apt-transport-https ca-certificates curl software-properties-common

# 添加 Docker 的官方 GPG 密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

# 添加 Docker 的稳定仓库
sudo add-apt-repository "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

# 再次更新并安装 Docker CE
sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli containerd.io

# 验证安装
sudo systemctl status docker

若需非 root 用户运行 Docker，可执行以下命令并重新登录 SSH：

sudo usermod -aG docker ${USER}

2.2 下载代码

cd ~
git clone https://github.com/neosun100/DeepSeek-OCR-WebUI.git
cd DeepSeek-OCR-WebUI

2.3 环境检查

该项目要求 GPU 驱动版本必须大于等于 580.82。可通过 nvidia-smi 查看当前驱动版本。

2.4 VS Code 连接与配置

为了方便开发调试，建议使用 VS Code 连接服务器。在构建镜像前，需要修改 Dockerfile 以添加依赖并配置 pip 国内镜像加速。

在 Dockerfile 中添加以下内容：

RUN apt-get update && apt-get install -y \
    libgl1 \
    libglib2.0-0 \
    pkg-config \
    python3-dev \
    build-essential \
    && rm -rf /var/lib/apt/lists/*

# 添加 pip 国内镜像加速
RUN pip config set global.index-url https://mirrors.huaweicloud.com/repository/pypi/simple/

3. 安装 NVIDIA Container Toolkit

Docker 默认不支持直接访问 GPU。要让容器使用 NVIDIA GPU，必须安装并配置 NVIDIA Container Toolkit。

3.1 确认驱动

nvidia-smi

如果成功输出 GPU 信息，说明驱动已装好。

3.2 安装 Toolkit

# 安装依赖工具
sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2

# 添加 NVIDIA Container Toolkit 的 GPG 密钥和软件源
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# 更新并安装
sudo apt-get update
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get install -y \
    nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

3.3 配置 Docker

设置 Docker 默认使用 nvidia-runtime：

sudo nvidia-ctk runtime configure --runtime=docker
sudo cat /etc/docker/daemon.json

重启 Docker 服务：

sudo systemctl restart docker

3.4 测试 GPU 可用性

docker run --rm --gpus all nvidia/cuda:13.0.1-runtime-ubuntu22.04 nvidia-smi

若输出包含 GPU 型号、驱动版本等信息，说明配置正确。

4. 启动服务

进入项目目录并启动容器：

cd ~/DeepSeek-OCR-WebUI
docker compose up -d

首次启动会下载依赖和模型，请耐心等待。模型文件将保存在 ~/DeepSeek-OCR-WebUI/models/ 文件夹中。

查看容器状态：

docker compose ps --format "table {{.Name}}\t{{.Status}}\t{{.Ports}}"

查看日志：

docker logs -f deepseek-ocr-webui

4.1 GPU 监控

watch -n 1 nvidia-smi

4.2 容器管理

# 重启服务
docker restart deepseek-ocr-webui

# 完全重启（重新加载模型）
docker compose restart

# 停止服务
docker compose down

# 重新构建并启动
docker compose up -d --build

# 查看资源使用
docker stats deepseek-ocr-webui

5. 访问与测试

启动成功后，可通过浏览器访问：

• UI 界面：http://<服务器 IP>:8001/
• API 文档：http://<服务器 IP>:8001/docs
• 健康检查：http://<服务器 IP>:8001/health

5.1 通用 OCR 测试

选择'通用 OCR'模式，上传一张图片进行测试。系统会提取图片中的可见文字。

识别结果示例：

============================================================
图片 1: fCOdj4aJI.png
============================================================
慢慢来，你又不差...

5.2 图像描述测试

选择'图像描述'模式，上传图片。系统会生成详细的英文描述，也可根据需求调整。

5.3 定位查找

选择'查找定位'模式，输入关键词，系统会在图片中标注出对应内容的位置。

通过上述步骤，即可完成 DeepSeek-OCR-WebUI 的本地化部署。该方案利用 GPU 加速推理，适合对数据隐私有要求的场景，同时提供了丰富的交互功能以满足不同识别需求。