1. 为什么要在飞牛 NAS 上部署自己的 AI 大模型?
在 NAS 设备上部署 AI 大模型主要解决以下痛点:一是隐私问题,避免对话记录和工作文档上传至第三方服务器;二是网络依赖,本地运行不受断网或服务商影响;三是成本问题,无需长期付费订阅高级功能。
飞牛 NAS 具备 24 小时开机、低功耗特性,适合作为私有服务器。使用 DeepSeek-R1 的 1.5B 小模型,在普通 x86 架构飞牛 NAS 上即可运行,处理简单问题和文本任务绰绰有余。整个过程基于 Docker 容器化技术,无需配置复杂的 Python 环境,仅需几条命令即可完成。
2. 部署前的准备工作:环境检查与 SSH 连接
部署前需确认系统版本在 0.8.36 以上,建议内存至少 8GB。
首先开启 SSH 连接。在飞牛 NAS Web 管理界面中,进入'系统设置'-'远程访问'-'SSH 服务'并启用。端口默认保持 22。
使用 SSH 客户端(如 PuTTY 或终端)连接 NAS。输入 NAS IP、用户名 root 及管理密码。连接成功后提示符应显示 root@。若非 root 权限,部分 Docker 命令无法执行,可通过 sudo -i 切换。
建议在部署前更新系统软件包以提升兼容性:
apt update && apt upgrade -y
执行过程中输入 y 确认。
3. 一键部署 OpenWebUI:Docker 命令详解
好了,准备工作都做完了,现在进入正题。部署 OpenWebUI 其实主要涉及一条 Docker 命令。

