小米智能家居 Miloco 分离式部署实战指南

接着创建 .env 文件配置环境变量：

vi .env

填入以下内容（注意修正了原稿中的拼写错误 LEVER -> LEVEL）：

TZ=Asia/Shanghai
BACKEND_HOST=0.0.0.0
BACKEND_PORT=8000
BACKEND_LOG_LEVEL=info
AI_ENGINE_HOST=0.0.0.0
AI_ENGINE_PORT=8001
AI_ENGINE_LOG_LEVEL=info

最后启动服务：

mkdir -p data
mkdir -p log/backend
docker compose up -d

等待镜像拉取完成并启动即可。此时后端服务应已在本地运行。

部署视觉大模型 (VL Model)

为了降低门槛，这里推荐两种方案：

1. 轻量级方案（适合 Windows/macOS 或非专业用户）：使用 LM Studio 部署 GGUF 格式的模型。
2. 生产级方案（适合高性能 NVIDIA 显卡，如 RTX 3090/4090 等显存≥24G）：建议使用 vLLM 或 SGLang，以获得更稳定的推理服务。

下文以 LM Studio 为例进行演示。

1. 下载与安装

访问官网下载安装包：https://lmstudio.ai/

2. 基础设置

打开软件后，点击右下角设置图标：

• General：语言选择简体中文。
• Developer：启用本地 LLM 服务（Local LLM Server）。

3. 检查运行时支持

在设置页的 Runtime 选项卡下确认你的硬件支持情况：

• NVIDIA 用户：Vulkan, CUDA, CPU llama.cpp 等。
• AMD 用户：Vulkan, ROCm, CPU llama.cpp 等。
• Apple 用户：Metal, MLX, CPU llama.cpp 等。

4. 下载模型

在搜索框中输入：xiaomi-open-source/Xiaomi-MiMo-VL-Miloco-7B-GGUF，点击下载按钮获取模型文件。

5. 启动服务

• 下载完成后，点击左侧绿色终端图标进入开发者模式。
• 点击顶部加载模型，状态显示为 READY 即表示加载成功。
• 将顶部的开关从 Stopped 切换至 Running。
• 点击 Server Settings，开启'在网络中提供服务'。
• 右侧会显示局域网地址，例如 http://192.168.50.210:1234，请复制该地址备用。

对接与服务集成

假设你的 Docker 宿主机 IP 为 192.168.50.123，浏览器访问 https://192.168.50.123:8000/。首次登录需要设置账号，回调地址填写 192.168.50.123:8000。

接入视觉模型

进入模型管理页面，选择云端模型添加：

• Base URL：填入 LM Studio 的地址，如 http://192.168.50.210:1234/v1
• API Key：随意填写（如 test）
• 模型 ID：xiaomi-mimo-vl-miloco-7b

添加完成后，在上方'视觉理解大模型'中选择刚添加的云端模型。

接入规划模型

如果本地资源受限，可以使用云端 API 作为规划模型（Planning Model）。推荐使用硅基流动（Silicon Flow）的免费额度：

1. 访问 https://cloud.siliconflow.cn/ 注册并生成 API Key。
2. 在 Miloco 中添加云端模型：
   • Base URL：https://api.siliconflow.cn/v1
   • API Key：填入刚才生成的 key
   • 模型 ID：Qwen/Qwen3-8B（或其他支持的模型）

完成上述配置后，即可在 AI 中心开始体验 Miloco 的自动化能力。

优化建议与注意事项

• 规划模型选择：Qwen3-8B 是一个性价比高的入门选择，但工具调用稳定性可能不如更强的大模型（如 Kimi K2、Minimax M2 等）。如果对稳定性要求高，建议尝试其他模型。
• 视觉模型精度：若硬件条件允许，可尝试部署全精度版本并使用 vLLM 提供服务，体验会更流畅。
• 架构说明：官方文档通常推荐多集成的方式，本质上是对 llama.cpp 的封装。分离式部署虽然步骤稍多，但在灵活性和资源隔离上更具优势。
• 兼容性提示：部分底层代码可能存在硬编码依赖（如特定 CUDA 版本），在跨平台部署时可能会遇到限制，建议优先测试目标环境的兼容性。