小米 MiLoco 大模型智能家居本地部署指南

安装依赖环境

请确保您的系统满足上述硬件和软件要求。Windows 系统需要进入 WSL 环境。

WSL 安装与配置

参考官方文档进行环境搭建。系统要求 Windows 11 22H2 及以上版本 + WSL2。

1. 启用功能：在系统中搜索并打开控制面板，点击程序 > 启动或关闭 Windows 功能，勾选 Hyper-V 和适用于 Linux 的 Windows 子系统，点击确定，等待系统安装更新后重启。

2. 安装 WSL：在终端输入 wsl --install，等待 WSL 安装完成；如果已经安装，可以使用 wsl --update 更新到最新版本。

3. 下载发行版：打开 Windows 自带的应用商店，搜索 Ubuntu，然后下载 Ubuntu 24.04.1 LTS。在 Windows 终端可使用 wsl --list --online 查看在线的发行版，然后输入 wsl --install -d Ubuntu-24.04 安装。

4. 初始化：在应用商店下载完成后，点击打开按钮，按照提示输入用户名和密码，完成初始化。在终端输入 wsl -d Ubuntu-24.04，同样按提示完成初始化。

WSL 常用操作

# 启动默认发行版
wsl

# 退出当前发行版
exit # 或 logout

# 列出所有发行版（含状态）
wsl --list --verbose

# 查看详细信息
wsl --status

# 设置默认启动发行版
wsl --set-default Ubuntu-22.04

# 卸载指定发行版（数据丢失）
wsl --unregister Ubuntu-20.04

# 查看 WSL2 的 IP 地址
ip addr show eth0 | grep 'inet\b' | awk '{print $2}' | cut -d/ -f1

# 关闭所有 WSL 实例
wsl --shutdown

# 运行特定发行版命令
wsl -d Ubuntu-22.04 -e bash -c "echo Hello"

# 重启版本
wsl --terminate <DistributionName>
wsl --distribution <DistributionName>

网络模式配置

在系统中搜索 WSL Setting，点击网络，然后将网络模式修改为 Mirrored。修改完成后，需要使用 wsl --shutdown 停止子系统，然后重新运行 wsl -d Ubuntu-24.04 进入子系统，输入 ip a 查看子系统网络配置是否和宿主机器一致。

设置为 Mirrored 模式后，需要配置 Hyper-V 防火墙，允许入站连接。在 PowerShell 窗口中以管理员权限运行以下命令：

Set-NetFirewallHyperVVMSetting -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}' -DefaultInboundAction Allow

如需验证策略，可运行：

Get-NetFirewallHyperVVMSetting -PolicyStore ActiveStore -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}'

确保 DefaultInboundAction 和 DefaultOutboundAction 为 Allow 即可。

Docker 环境

使用官方脚本安装（WSL2 中官方推荐 Docker Desktop 安装，可以忽略提示，采用下述命令直接安装）：

curl -fsSL https://get.docker.com | bash -s docker
# 中国国内用户可以指定 Aliyun 源安装
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun

可将当前用户加入 docker 组，从而可以直接使用 docker 命令：

sudo usermod -aG docker $USER

添加完成后，需要重新登录，以使用户组更改生效。使用命令 docker --version 验证是否安装成功。

显卡驱动及开发工具

以下提供两种方案，任选其一即可。

方案一：安装 CUDA Toolkit

# 25-11-1 更新
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1_all.deb
sudo apt-get update
sudo apt install nvidia-cuda-toolkit
sudo apt-get -y install cuda-drivers

方案二：配置 NVIDIA Container Toolkit

# 配置下载源
sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

环境验证

验证 Docker

使用 hello-world 镜像验证 Docker 是否安装成功，如果显示 Hello from Docker! 则表示安装成功。

docker run hello-world
# 验证完成后，可移除镜像
docker rmi hello-world

验证 NVIDIA 显卡驱动

使用命令 nvidia-smi 验证 NVIDIA Driver 是否安装成功，如果显示显卡驱动和 CUDA 工具包信息，则表示安装成功。

使用命令 nvcc --version 验证 NVIDIA CUDA Toolkit 是否安装成功，如果安装成功，会显示版本信息。

验证 NVIDIA Container Toolkit

使用下述命令验证 NVIDIA Container Toolkit 是否安装成功，如果显示显卡驱动和 CUDA 工具包信息，则表示安装成功。

docker run --rm --gpus all nvidia/cuda:12.4.0-base-ubuntu22.04 nvidia-smi
# 验证完成后，可移除镜像
docker rmi nvidia/cuda:12.4.0-base-ubuntu22.04

Miloco 安装与启动

下载源码后，执行一键安装脚本：

git clone https://github.com/XiaoMi/xiaomi-miloco.git
bash scripts/install.sh

miloco 安装运行界面如下，选择 '1. Quick Install'：

选择下载路径：国内推荐 Xiaomi FDS。

安装完成提示：

启动服务：

运行服务后的系统运行时状态：

前端访问服务

通过 https://<your ip>:8000 访问服务，如果是本机访问，IP 为 127.0.0.1。

注意以下几点：

• 请使用 https 访问，而不是 http。
• Windows 下，在 Windows 中可以尝试直接访问 WSL 的 IP 地址，如 https://<wsl ip>:8000。
• macOS 环境下，如果网络模式配置为桥接模式，访问时请使用 Docker 所在虚拟机的 IP。

Miloco 使用

miloco 前端管理界面如下：

设置后端使用的模型

设置规则

主界面里可以自动生成，也可以在规则管理里手动添加。这里使用的是手动添加。

注意：

• 添加规则前，需要在米家 APP 里测试相关控制设备的有效性。
• 添加规则时，一定要在设置控制选项点击'测试'按钮，生成有效的米家控制指令，有时 AI 模型调用生成指令有问题，多测试几遍。

如果设置的规则执行有问题，可以在日志管理查看相关执行日志。