小米 MiLoco 大模型智能家居本地部署指南

小米 Miloco 简介

小米推出了首个'大模型 + 智能家居'解决方案 Xiaomi Miloco，全称为 Xiaomi Local Copilot（小米本地协同智能助手）。

项目地址：https://github.com/XiaoMi/xiaomi-miloco

Miloco 以米家摄像头为视觉信息源，以自研大语言模型 MiMo-VL-Miloco-7B 为核心，连接家中所有物联网（IoT）设备。该框架已开源，模型基于小米发布的 MiMo 模型调优而来。

从小米公布的页面来看，主界面是一个类似 ChatGPT 的聊天框，左侧设有智能家居设备导航栏，包括 AI 中心、模型管理、MCP 服务、设备管理等选项；相机设备独立成一栏，陈列了智能摄像头记录的视频。

关键特性

1. 交互新范式：基于大模型的开发范式，通过自然语言交互即可完成规则设置和设备的复杂指令控制。
2. 视觉数据新用途：以摄像头数据流作为感知信息源，使用大模型将视觉数据包含的各种家庭场景事件解析出来，用于回复用户查询。
3. 端侧大模型：将家庭场景任务拆分为规划 + 视觉理解两个阶段，提供小米自研端侧模型，实现端侧视频理解，保障家庭隐私安全。
4. 米家生态：打通米家生态，支持米家设备、米家场景的获取与执行，支持自定义内容发送米家通知。

Miloco 还通过标准化的 MCP 协议封装，实现米家生态与全球最大开源智能家居社区 Home Assistant 生态的打通，同时开放支持第三方 IoT 平台接入。

从项目公布的软硬件要求来看，部署 Miloco 硬件要求不高，仅需要硬件搭载 x64 架构，图形处理器在英伟达 30 系列及以上，存储要在 16GB 及以上即可。

快速开始

系统要求

硬件要求

CPU: x64 架构 
显卡：NVIDIA 30 系及以上显卡，显存 8GB 及以上（最低），建议 12GB 及以上 
存储：建议 20GB 及以上可用空间（用于本地模型存储）

软件要求

操作系统：
- Linux: x64 架构，建议 Ubuntu 22.04 及以上 LTS 版本
- Windows: x64 架构，建议 Windows 10 及以上版本，要求支持 WSL2
- macOS: 暂不支持
Docker: 20.10 及以上版本，需要支持 docker compose
NVIDIA 驱动：支持 CUDA 的 NVIDIA 驱动
NVIDIA Container Toolkit: 用于 Docker GPU 支持

安装依赖环境

请确保您的系统满足上述硬件和软件要求。Windows 系统需要进入 WSL 环境。

WSL 安装与配置

参考官方文档进行环境搭建。系统要求 Windows 11 22H2 及以上版本 + WSL2。

1. 启用功能：在系统中搜索并打开控制面板，点击程序 > 启动或关闭 Windows 功能，勾选 Hyper-V 和适用于 Linux 的 Windows 子系统，点击确定，等待系统安装更新后重启。

2. 安装 WSL：在终端输入 wsl --install，等待 WSL 安装完成；如果已经安装，可以使用 wsl --update 更新到最新版本。

3. 下载发行版：打开 Windows 自带的应用商店，搜索 Ubuntu，然后下载 Ubuntu 24.04.1 LTS。在 Windows 终端可使用 wsl --list --online 查看在线的发行版，然后输入 wsl --install -d Ubuntu-24.04 安装。

4. 初始化：在应用商店下载完成后，点击打开按钮，按照提示输入用户名和密码，完成初始化。在终端输入 wsl -d Ubuntu-24.04，同样按提示完成初始化。

WSL 常用操作

# 启动默认发行版
wsl

# 退出当前发行版
exit # 或 logout

# 列出所有发行版（含状态）
wsl --list --verbose

# 查看详细信息
wsl --status

# 设置默认启动发行版
wsl --set-default Ubuntu-22.04

# 卸载指定发行版（数据丢失）
wsl --unregister Ubuntu-20.04

# 查看 WSL2 的 IP 地址
ip addr show eth0 | grep 'inet\b' | awk '{print $2}' | cut -d/ -f1

# 关闭所有 WSL 实例
wsl --shutdown

# 运行特定发行版命令
wsl -d Ubuntu-22.04 -e bash -c "echo Hello"

# 重启版本
wsl --terminate <DistributionName>
wsl --distribution <DistributionName>

网络模式配置

在系统中搜索 WSL Setting，点击网络，然后将网络模式修改为 Mirrored。修改完成后，需要使用 wsl --shutdown 停止子系统，然后重新运行 wsl -d Ubuntu-24.04 进入子系统，输入 ip a 查看子系统网络配置是否和宿主机器一致。

设置为 Mirrored 模式后，需要配置 Hyper-V 防火墙，允许入站连接。在 PowerShell 窗口中以管理员权限运行以下命令：

Set-NetFirewallHyperVVMSetting -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}' -DefaultInboundAction Allow

如需验证策略，可运行：

Get-NetFirewallHyperVVMSetting -PolicyStore ActiveStore -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}'

确保 DefaultInboundAction 和 DefaultOutboundAction 为 Allow 即可。

Docker 环境

使用官方脚本安装（WSL2 中官方推荐 Docker Desktop 安装，可以忽略提示，采用下述命令直接安装）：

curl -fsSL https://get.docker.com | bash -s docker
# 中国国内用户可以指定 Aliyun 源安装
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun

可将当前用户加入 docker 组，从而可以直接使用 docker 命令：

sudo usermod -aG docker $USER

添加完成后，需要重新登录，以使用户组更改生效。使用命令 docker --version 验证是否安装成功。

显卡驱动及开发工具

以下提供两种方案，任选其一即可。

方案一：安装 CUDA Toolkit

# 25-11-1 更新
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1_all.deb
sudo apt-get update
sudo apt install nvidia-cuda-toolkit
sudo apt-get -y install cuda-drivers

方案二：配置 NVIDIA Container Toolkit

# 配置下载源
sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

环境验证

验证 Docker

使用 hello-world 镜像验证 Docker 是否安装成功，如果显示 Hello from Docker! 则表示安装成功。

docker run hello-world
# 验证完成后，可移除镜像
docker rmi hello-world

验证 NVIDIA 显卡驱动

使用命令 nvidia-smi 验证 NVIDIA Driver 是否安装成功，如果显示显卡驱动和 CUDA 工具包信息，则表示安装成功。

使用命令 nvcc --version 验证 NVIDIA CUDA Toolkit 是否安装成功，如果安装成功，会显示版本信息。

验证 NVIDIA Container Toolkit

使用下述命令验证 NVIDIA Container Toolkit 是否安装成功，如果显示显卡驱动和 CUDA 工具包信息，则表示安装成功。

docker run --rm --gpus all nvidia/cuda:12.4.0-base-ubuntu22.04 nvidia-smi
# 验证完成后，可移除镜像
docker rmi nvidia/cuda:12.4.0-base-ubuntu22.04

Miloco 安装与启动

下载源码后，执行一键安装脚本：

git clone https://github.com/XiaoMi/xiaomi-miloco.git
bash scripts/install.sh

miloco 安装运行界面如下，选择 '1. Quick Install'：

选择下载路径：国内推荐 Xiaomi FDS。

安装完成提示：

启动服务：

运行服务后的系统运行时状态：

前端访问服务

通过 https://<your ip>:8000 访问服务，如果是本机访问，IP 为 127.0.0.1。

注意以下几点：

• 请使用 https 访问，而不是 http。
• Windows 下，在 Windows 中可以尝试直接访问 WSL 的 IP 地址，如 https://<wsl ip>:8000。
• macOS 环境下，如果网络模式配置为桥接模式，访问时请使用 Docker 所在虚拟机的 IP。

Miloco 使用

miloco 前端管理界面如下：

设置后端使用的模型

设置规则

主界面里可以自动生成，也可以在规则管理里手动添加。这里使用的是手动添加。

注意：

• 添加规则前，需要在米家 APP 里测试相关控制设备的有效性。
• 添加规则时，一定要在设置控制选项点击'测试'按钮，生成有效的米家控制指令，有时 AI 模型调用生成指令有问题，多测试几遍。

如果设置的规则执行有问题，可以在日志管理查看相关执行日志。