Windows 本地部署大模型工具链:Ollama + llama.cpp + LLaMA Factory
综述由AI生成Windows 11 系统本地部署大模型工具链,涵盖 Ollama、llama.cpp 及 LLaMA Factory 的安装与配置。教程详细说明了 E 盘统一目录规划、环境变量设置、CUDA 编译 llama.cpp、Miniconda 虚拟环境创建及 PyTorch 安装步骤。包含数据集格式准备、WebUI 启动脚本编写、常见问题排查及 GPU 运行状态监控方法,旨在实现高性能本地模型推理与微调。











