小米智能家居 Miloco 分离式部署实战指南

提示：这里使用了 network_mode: host，意味着容器将直接使用宿主机的网络栈，方便后续对接本地模型服务。

3. 配置环境变量

创建 .env 文件，定义必要的端口和日志级别：

TZ=Asia/Shanghai
BACKEND_HOST=0.0.0.0
BACKEND_PORT=8000
BACKEND_LOG_LEVEL=info
AI_ENGINE_HOST=0.0.0.0
AI_ENGINE_PORT=8001
AI_ENGINE_LOG_LEVEL=info

4. 启动服务

最后，创建必要的目录并启动容器：

mkdir -p data
mkdir -p log/backend
docker compose up -d

等待镜像拉取完成后，服务即运行在后台。你可以通过 docker ps 确认容器状态。

三、部署视觉大模型 (VL Model)

Miloco 需要视觉理解能力。根据硬件条件，你可以选择本地部署或云端调用。

方案 A：本地部署 (推荐普通用户)

对于 Windows 及 macOS 用户，或者显存有限的设备，推荐使用 LM Studio。它提供了图形化界面，能轻松加载 GGUF 格式的模型。

1. 下载与安装：访问 LM Studio 官网下载对应版本。
2. 开启本地服务：
   • 打开设置 (Settings)。
   • 在 General 中选择语言为简体中文。
   • 在 Developer 选项中启用 Local LLM Server。
3. 检查运行时支持：
   • 进入 Runtime 页面，根据你的硬件查看可用选项：
     • NVIDIA：CUDA llama.cpp, Vulkan llama.cpp 等。
     • AMD：ROCm llama.cpp, Vulkan llama.cpp。
     • Apple Silicon：Metal llama.cpp, MLX llama.cpp。
4. 下载模型：
   • 在搜索框输入 xiaomi-open-source/Xiaomi-MiMo-VL-Miloco-7B-GGUF。
   • 点击下载按钮获取模型文件。
5. 启动服务：
   • 点击左侧开发者图标 (绿色终端)。
   • 加载刚才下载的模型，状态显示 READY。
   • 点击右上角开关切换到 Running。
   • 记下右侧显示的局域网地址，例如 http://192.168.50.210:1234。

方案 B：生产级部署 (高性能显卡)

如果你拥有 RTX 3090/4090 等显存大于 24GB 的 NVIDIA 显卡，建议使用 vLLM 或 SGLang 以获得更稳定的生产级服务体验。

四、服务对接与配置

假设你的 Docker 宿主机 IP 为 192.168.50.123。

1. 初始化 Miloco 后台

访问 https://192.168.50.123:8000/。首次登录会引导你进行账号设置，回调地址填写 192.168.50.123:8000 即可。

2. 接入视觉模型

在 Miloco 后台的 模型管理 -> 云端模型 -> 添加模型 中：

• Base URL：填入 LM Studio 的地址，如 http://192.168.50.210:1234/v1。
• API Key：随意填写一个字符串。
• 模型 ID：填 xiaomi-mimo-vl-miloco-7b。
• 添加成功后，在上方'视觉理解大模型'下拉菜单中选择该云端模型。

3. 接入规划模型

为了节省本地资源，规划任务可以使用云端 API。这里以硅基流动为例：

1. 访问 SiliconFlow 注册账号。
2. 生成 API Key (sk 开头)。
3. 回到 Miloco 后台添加云端模型：
   • Base URL：https://api.siliconflow.cn/v1
   • API Key：填入生成的密钥。
   • 模型 ID：选择 Qwen/Qwen3-8B。
   • 在'规划大模型'中选择该云端模型。

至此，Miloco 的核心链路已打通，你可以在 AI 中心开始交互了。

五、优化建议与注意事项

• 规划模型选型：如果当前使用的 Qwen3-8B 在工具调用上不够稳定，可以尝试更强的大模型，如 Kimi K2 或 Minimax M2。它们对工具的适配通常更好。
• 视觉模型精度：若本地算力充足，建议尝试部署全精度版本的 VL 模型，配合 vLLM 服务，推理效果会更细腻。
• 架构说明：官方文档中的集成方式本质上是对 llama.cpp 的封装。采用分离式部署大模型服务，灵活性更高，便于独立升级各组件。
• 兼容性提示：部分底层代码可能硬编码了 CUDA 相关依赖，在跨平台部署时可能会遇到限制，建议优先使用官方推荐的 Docker 镜像。