小米 Miloco 大模型智能家居本地化部署实战

常用操作备忘

• 启动默认发行版：wsl
• 列出所有发行版：wsl --list --verbose
• 关闭所有实例：wsl --shutdown
• 查看 IP 地址：ip addr show eth0 | grep 'inet\b' | awk '{print $2}' | cut -d/ -f1

网络模式配置 建议在 WSL Setting 中将网络模式修改为 Mirrored。修改后需先运行 wsl --shutdown 停止子系统，再重新进入检查 IP 是否与宿主机一致。

若设置为 Mirrored 模式，还需配置 Hyper-V 防火墙允许入站连接。在 PowerShell 中以管理员权限运行以下命令：

Set-NetFirewallHyperVVMSetting -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}' -DefaultInboundAction Allow

Docker 环境

WSL2 中推荐使用官方脚本安装 Docker Desktop。国内用户可指定 Aliyun 源加速：

curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun

安装后将当前用户加入 docker 组以便免 sudo 执行命令：

sudo usermod -aG docker $USER

注意添加后需重新登录以使组更改生效，随后用 docker --version 验证。

显卡驱动及工具

CUDA Toolkit 安装

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt install nvidia-cuda-toolkit
sudo apt-get -y install cuda-drivers

NVIDIA Container Toolkit 配置

sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get install -y \
    nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
    libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

3、环境验证

Docker 验证 运行 hello-world 镜像，看到 Hello from Docker! 即表示成功：

docker run hello-world
docker rmi hello-world

显卡驱动验证 使用 nvidia-smi 查看驱动状态，nvcc --version 确认 CUDA 工具包版本。

Container Toolkit 验证 运行测试容器：

docker run --rm --gpus all nvidia/cuda:12.4.0-base-ubuntu22.04 nvidia-smi
docker rmi nvidia/cuda:12.4.0-base-ubuntu22.04

4、安装与启动

克隆源码后执行一键安装脚本：

git clone https://github.com/XiaoMi/xiaomi-miloco.git
bash scripts/install.sh

安装过程中会进入交互式菜单，选择 1. Quick Install 即可。下载路径建议选择 Xiaomi FDS 以获得更快的国内访问速度。

安装完成后根据提示启动服务，观察运行状态日志确保无报错。

5、前端访问

服务启动后，通过 https://<your ip>:8000 访问。本机访问可用 127.0.0.1。

注意事项

• 必须使用 https 协议访问。
• Windows 下可直接尝试访问 WSL 的 IP 地址。
• macOS 环境下若网络为桥接模式，请使用 Docker 所在虚拟机的 IP。

6、使用指南

进入前端管理界面后，可进行以下配置：

1. 模型设置：选择后端使用的模型。
2. 规则配置：主界面可自动生成规则，也可在规则管理里手动添加。添加前务必先在米家 APP 内测试设备控制有效性。点击'测试'按钮生成有效指令，AI 模型生成的指令有时需多次调试。
3. 日志查看：若规则执行异常，可在日志管理中排查问题。