Ubuntu 24.04 本地部署 Open WebUI 与 Ollama

镜像拉取速度可能较慢。

docker compose up -d

配置文件修改

由于本地已运行 Ollama 服务，需修改 docker-compose.yaml 及 .env 文件中的 Ollama 配置。

cd open-webui
cp .env.example .env

.env 配置示例：

# .env
# Ollama URL for the backend to connect
# The path '/ollama' will be redirected to the specified backend URL
OLLAMA_BASE_URL='http://host.docker.internal:11434'
# AUTOMATIC1111_BASE_URL="http://localhost:7860"
# For production, you should only need one host as fastapi serves the svelte-kit built frontend and backend from the same host and port.
# To test with CORS locally, you can set something like
CORS_ALLOW_ORIGIN='*'
# For production you should set this to match the proxy configuration (127.0.0.1)
FORWARDED_ALLOW_IPS='*'
# DO NOT TRACK SCARF_NO_ANALYTICS=true
DO_NOT_TRACK=true
ANONYMIZED_TELEMETRY=false

docker-compose.yml 配置示例：

services:
  open-webui:
    build:
      context: .
      dockerfile: Dockerfile
    image: ghcr.io/open-webui/open-webui:${WEBUI_DOCKER_TAG-main}
    container_name: open-webui
    volumes:
      - open-webui:/app/backend/data
    ports:
      - "${OPEN_WEBUI_PORT-3000}:8080"
    environment:
      - 'OLLAMA_BASE_URL=http://host.docker.internal:11434'
      - 'WEBUI_SECRET_KEY='
    extra_hosts:
      - host.docker.internal:host-gateway
    restart: unless-stopped
volumes:
  ollama: {}
  open-webui: {}

Git 拉取项目

git clone https://github.com/open-webui/open-webui.git

联网搜索

本地部署 SearXNG

如有需要可部署 SearXNG，优化参考官方文档：SearXNG | Open WebUI 文档

注意：

• 配置 SearXNG 的搜索引擎，建议启用国内可用的搜索引擎（如 360search、Bing、Sogou、Baidu）。百度可能会触发反爬机制，抛出验证码限制搜索访问。

开启联网搜索后，受限于硬件及模型性能，效果可能不佳。更换高性能设备和模型可获得更好结果。

配置 Open WebUI 页面搜索

开启最上面的联网搜索，并配置宿主机中的 SearXNG 访问地址：http://host.docker.internal:8080/search?q=<query>。否则在对话窗口中无法开启联网搜索或连接到 SearXNG 服务。

Caddy 端口映射配置

配置 docker-compose.yaml 中的 Caddy 端口映射以及取消 host 网络模式，避免被 Firefox 浏览器占用端口。

services:
  caddy:
    container_name: caddy
    image: docker.io/library/caddy:2-alpine
    # network_mode: host
    restart: unless-stopped
    ports:
      - "8081:8081"
    volumes:
      - ./Caddyfile:/etc/caddy/Caddyfile:ro
      - caddy-data:/data:rw
      - caddy-config:/config:rw
    environment:
      - SEARXNG_HOSTNAME=${SEARXNG_HOSTNAME:-http://localhost}
      - SEARXNG_TLS=${LETSENCRYPT_EMAIL:-internal}
    logging:
      driver: "json-file"
      options:
        max-size: "1m"
        max-file: "1"

注意事项

• 使用 SearXNG 联网时，注意按照官方文档配置搜索引擎以及添加 json 格式。
• 所有系统级配置均在 管理员面板/设置 中管理。
• 低算力设备可能无法流畅运行较大参数量的模型。
• 每次启用 Docker 容器时需要一定加载时间，当出现日志最后几段显示完成即表示加载完毕。