Windows 10 本地部署 llama.cpp 环境搭建与编译指南
最近不少技术爱好者开始关注本地运行大语言模型，尤其是那些希望数据完全留在自己电脑上的用户。在 Windows 10 上部署 llama.cpp 这样的高效推理框架，听起来门槛不低，但只要避开几个常见的'坑'，实际操作起来比想象中顺利得多。无论你是刚接触命令行的新手，还是有一定基础但没玩过 C++ 编译的开发者，都能在这里找到从零到一的完整路径。
1. 环境准备：搭建坚实的编译地基
在开始编译 llama.cpp 之前，我们需要一个合适的'施工环境'。对于 Windows 用户来说，这通常意味着要准备好两样核心工具：一个能用的 C/C++ 编译器，以及一个项目构建系统。很多人第一步就卡在这里，因为 Windows 默认并不提供这些开发工具。
1.1 编译器选择与安装：GCC 还是 MSVC？
llama.cpp 项目主要使用 C++ 编写，因此我们需要一个编译器将其源代码转换成可执行的程序。在 Windows 上，你有两个主流选择：MSVC（微软 Visual Studio 编译器）和 GCC（GNU 编译器套件）。对于初学者，我强烈推荐使用 GCC，特别是通过 MSYS2 或 w64devkit 来获取。原因很简单：它更轻量，配置更直接，与 llama.cpp 社区的兼容性也更好，能避免很多因环境差异导致的诡异错误。
方案一：使用 MSYS2（推荐给希望获得完整 Linux-like 环境的用户） MSYS2 提供了一个近乎完整的 Unix 工具链和环境，非常适合从 Linux/Mac 转过来的开发者。
- 访问 MSYS2 官网 下载安装程序。
- 运行安装程序，默认安装路径即可（例如
C:\msys64）。 - 安装完成后，从开始菜单启动
MSYS2 UCRT64（注意是 UCRT64，不是 MSYS2）。这个终端环境已经配置好了 GCC 和 Pacman 包管理器。
安装编译 llama.cpp 所需的工具链：
pacman -S --needed base-devel mingw-w64-ucrt-x86_64-toolchain cmake git
这个命令会安装 GCC 编译器、make 工具、CMake 和 Git。
在打开的终端中，首先更新软件包数据库：
pacman -Syu
注意：更新过程中可能会提示你关闭终端，按照提示操作，重新打开
MSYS2 UCRT64再执行下一步。
方案二：使用 w64devkit（推荐给追求极简、快速上手的用户） 如果你只想快速获得一个能编译的 GCC 环境，不想安装庞大的 MSYS2，w64devkit 是一个完美的便携式解决方案。它只有一个压缩包，解压即用。
- 前往 w64devkit 的 GitHub 发布页。
- 下载最新版本的
w64devkit-*.zip文件（例如w64devkit-1.20.0.zip）。 - 将其解压到你喜欢的任意目录，比如
D:\DevTools\w64devkit。 - 进入解压后的文件夹，双击运行
w64devkit.exe。这将打开一个已经配置好所有环境变量的命令行窗口。
验证编译器是否就绪：
gcc --version make --version
如果能看到版本信息，说明环境已经准备妥当。
1.2 安装与配置 CMake
CMake 是一个跨平台的自动化构建系统生成器。llama.cpp 使用 CMake 来管理其复杂的编译配置，因此它是必不可少的。