小米 MiLoco 本地大模型智能家居部署实战

sudo usermod -aG docker $USER

记得重新登录以使组权限生效，并通过 docker --version 验证。

3. 显卡驱动与工具链

确保安装了 CUDA Toolkit 和 NVIDIA Container Toolkit。以下命令适用于 Ubuntu 24.04：

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1_all.deb
sudo apt-get update
sudo apt install nvidia-cuda-toolkit
sudo apt-get -y install cuda-drivers

同时配置 NVIDIA 容器工具包源：

sudo apt-get update && sudo apt-get install -y --no-install-recommends curl gnupg2
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.18.0-1
sudo apt-get install -y nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

三、环境验证

安装完成后，建议依次验证各组件是否正常：

1. Docker 验证：运行 hello-world 镜像。

   docker run hello-world
   # 成功后移除镜像
   docker rmi hello-world
   

2. 显卡驱动验证：检查 nvidia-smi 输出。

   nvidia-smi
   nvcc --version
   

3. Docker GPU 支持验证：

   docker run --rm --gpus all nvidia/cuda:12.4.0-base-ubuntu22.04 nvidia-smi
   

四、安装与启动服务

获取源码后，执行一键安装脚本即可快速部署：

git clone https://github.com/XiaoMi/xiaomi-miloco.git
cd xiaomi-miloco
bash scripts/install.sh

运行脚本后会进入交互式菜单，选择 Quick Install 并按提示操作。下载路径建议选择国内节点（如 Xiaomi FDS）以提升速度。

安装完成后，根据界面提示启动服务。启动后可通过系统状态监控查看运行情况。

五、前端访问与使用

服务启动后，通过浏览器访问管理界面。注意必须使用 HTTPS 协议：

• 本机访问：https://127.0.0.1:8000
• WSL 访问：https://<wsl_ip>:8000
• macOS 桥接模式：使用 Docker 虚拟机 IP

进入管理界面后，可进行以下配置：

1. 模型设置：选择后端使用的模型权重。
2. 规则管理：支持自动生成或手动添加控制规则。建议在米家 APP 中先测试设备有效性，并在 Miloco 中点击'测试'按钮生成指令，以防 AI 生成错误。
3. 日志排查：若规则执行异常，可在日志管理中查看详细执行记录。

通过上述步骤，即可完成 Miloco 的本地化部署，体验大模型赋能的智能家居交互。