DeepSeek-OCR-WebUI 部署实战：7 种模式与 GPU 加速多语言识别

核心结论：对于 OCR 这类对结果一致性要求极高的任务，transformers 提供的稳定性和兼容性远胜于短期性能增益。

此外，系统默认启用 bfloat16 精度进行推理，在保证准确率的同时有效降低显存占用，使单卡即可运行大模型。

3. 环境准备与依赖安装

3.1 基础环境要求

• 操作系统：Ubuntu 24.04 LTS（或其他主流 Linux 发行版）
• GPU 驱动版本：≥580.82（可通过 nvidia-smi 验证）
• 显卡型号：NVIDIA L40S / RTX 4090D / A100 等支持 CUDA 的设备
• 存储空间：至少预留 20GB 用于模型下载与缓存

3.2 安装 Docker

# 更新软件包索引
sudo apt-get update
# 安装必要依赖
sudo apt-get install -y apt-transport-https ca-certificates curl software-properties-common
# 添加 Docker 官方 GPG 密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
# 添加 Docker 稳定仓库
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
# 再次更新索引
sudo apt-get update
# 安装 Docker CE
sudo apt-get install -y docker-ce
# 启动并设置开机自启
sudo systemctl enable docker && sudo systemctl start docker
# 验证安装
sudo docker --version

3.3 配置非 root 用户权限

# 将当前用户加入 docker 组
sudo usermod -aG docker ${USER}
# 提示用户重新登录以生效
echo "请退出 SSH 并重新连接以应用权限变更"

3.4 设置 Docker 镜像加速与存储路径

为提升国内网络环境下镜像拉取速度，建议配置镜像加速器并将数据目录迁移至大容量磁盘。

sudo tee /etc/docker/daemon.json <<-'EOF'
{
  "data-root": "/data/docker",
  "exec-opts":["native.cgroupdriver=systemd"],
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://mirror.ccs.tencentyun.com",
    "https://4hxooktm.mirror.aliyuncs.com"
  ],
  "log-driver":"json-file",
  "log-opts": {
    "max-size":"100m",
    "max-file":"3"
  }
}
EOF
# 重启 Docker 服务
sudo systemctl daemon-reload
sudo systemctl restart docker

4. 安装 NVIDIA Container Toolkit

Docker 默认无法直接调用 GPU 资源，必须通过 NVIDIA Container Toolkit 实现容器级 GPU 访问。

4.1 验证 GPU 驱动状态

nvidia-smi

若正确输出 GPU 型号、驱动版本及温度信息，则表示驱动已就绪。

4.2 安装 NVIDIA Container Toolkit

# 安装基础依赖
sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2
# 添加 GPG 密钥和 APT 源
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
 sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
 sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
# 启用 experimental 源（可选）
sudo sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list
# 更新索引并安装组件
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get update
sudo apt-get install -y \
 nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
 nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
 libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
 libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

4.3 配置 Docker 默认 Runtime

# 设置 nvidia 为默认 runtime
sudo nvidia-ctk runtime configure --runtime=docker
# 查看配置是否写入 daemon.json
sudo cat /etc/docker/daemon.json

预期输出包含：

{
  "runtimes": {
    "nvidia": {
      "path": "nvidia-container-runtime",
      "args": []
    }
  }
}

4.4 重启 Docker 服务

sudo systemctl restart docker

4.5 测试 GPU 容器运行

docker run --rm --gpus all nvidia/cuda:13.0.1-runtime-ubuntu22.04 nvidia-smi

若成功显示 GPU 信息，说明配置完成。

5. 部署 DeepSeek-OCR-WebUI 服务

5.1 克隆项目代码

cd ~
git clone https://github.com/neosun100/DeepSeek-OCR-WebUI.git
cd DeepSeek-OCR-WebUI

5.2 优化 Dockerfile（可选）

为提升构建效率并解决依赖缺失问题，建议修改 Dockerfile，添加系统依赖与 pip 镜像加速。

在 FROM 指令之后插入：

# 安装 OpenCV 等依赖库
RUN apt-get update && apt-get install -y \
 libgl1 \
 libglib2.0-0 \
 pkg-config \
 python3-dev \
 build-essential \
 && rm -rf /var/lib/apt/lists/*
# 配置 pip 国内镜像
RUN pip config set global.index-url https://mirrors.huaweicloud.com/repository/pypi/simple/

5.3 启动服务

# 构建并后台启动容器
docker compose up -d
# 查看服务状态
docker compose ps --format "table {{.Name}}\t{{.Status}}\t{{.Ports}}"

首次启动将自动拉取模型文件（约数 GB），存储于 ~/DeepSeek-OCR-WebUI/models/ 目录下。若 HuggingFace 无法访问，系统会自动切换至 ModelScope 下载。

5.4 监控与管理

实时 GPU 监控

watch -n 1 nvidia-smi

容器操作命令

# 查看日志（跟踪启动过程）
docker logs -f deepseek-ocr-webui
# 重启服务
docker restart deepseek-ocr-webui
# 重建并重启
docker compose up -d --build
# 停止服务
docker compose down
# 查看资源占用
docker stats deepseek-ocr-webui

6. 功能测试与使用示例

服务启动后可通过以下地址访问：

• Web UI: http://<IP>:8001
• API 文档：http://<IP>:8001/docs
• 健康检查：http://<IP>:8001/health

6.1 通用 OCR 模式测试

选择'通用 OCR'模式上传含中文文本的图片，系统将提取所有可见文字。

输出示例：

慢慢来，你又不差 你所有的压力，都是因为你太想要了， 你所有的痛苦，都是因为你太较真了。 有些事，不能尽你心意，就是在提醒了该转变了。 ...

此模式适用于公告、海报、截图等非结构化文本提取。

6.2 图像描述模式测试

启用'图像描述'模式可生成图文理解结果。输入一张雪景人物照，返回如下内容：

An outdoor winter scene where snow is falling gently... 一幅冬日户外场景：雪花轻柔飘落，背景是清澈的蓝天。前景中站着一位年轻女子，她穿着保暖的冬装——一件黑色外套...

该功能结合了视觉理解与自然语言生成能力，可用于无障碍阅读辅助或内容审核。

6.3 查找定位模式（Find Mode）

在发票或表单识别中，'查找定位'模式尤为实用。输入关键词如'金额'，系统将高亮标注其所在区域，并返回坐标信息。

应用场景包括：

• 发票关键字段抽取
• 合同条款定位
• 表格内容检索

7. 总结

本文系统阐述了 DeepSeek-OCR-WebUI 的全流程部署方案，涵盖环境准备、GPU 驱动配置、容器化部署及功能验证等关键环节。该系统凭借其7 种识别模式、多语言支持和GPU 加速能力，为企业提供了强大且灵活的 OCR 解决方案。

核心优势总结如下：

1. 开箱即用：通过 Docker Compose 实现一键部署，降低运维门槛；
2. 生产就绪：选用 transformers 引擎确保长期运行稳定性；
3. 国产优化：在中文识别精度上表现突出，适配本土化需求；
4. 灵活扩展：支持 API 调用，便于集成至现有工作流；
5. 成本可控：可在单张消费级显卡上运行，适合中小企业部署。

未来可进一步探索批量处理脚本编写、私有化模型微调以及与 RPA 系统的集成，充分发挥其在自动化办公中的潜力。