Windows 10 部署 llama.cpp 环境配置与编译指南
在 Windows 10 系统上部署 llama.cpp 高效推理框架,需要准备好 C/C++ 编译器及项目构建系统。
1. 环境准备:搭建坚实的编译地基
1.1 编译器选择与安装:GCC 还是 MSVC?
llama.cpp 项目主要使用 C++ 编写,需要编译器将源代码转换成可执行文件。在 Windows 上,有两个主流选择:MSVC(微软 Visual Studio 编译器)和GCC(GNU 编译器套件)。对于初学者,推荐使用GCC,特别是通过MSYS2或w64devkit来获取。
方法一:使用 MSYS2 MSYS2 提供了一个近乎完整的 Unix 工具链和环境。
- 访问 MSYS2 官网 下载安装程序。
- 运行安装程序,默认安装路径即可(例如
C:\msys64)。 - 安装完成后,从开始菜单启动
MSYS2 UCRT64。这个终端环境已经配置好了 GCC 和 Pacman 包管理器。
安装编译 llama.cpp 所需的工具链:
pacman -S --needed base-devel mingw-w64-ucrt-x86_64-toolchain cmake git
在打开的终端中,首先更新软件包数据库:
pacman -Syu
注意:更新过程中可能会提示你关闭终端,按照提示操作,重新打开
MSYS2 UCRT64再执行下一步。
方法二:使用 w64devkit w64devkit 是一个完美的便携式解决方案,解压即用。
- 前往 w64devkit 的 GitHub 发布页。
- 下载最新版本的
w64devkit-*.zip文件。 - 将其解压到你喜欢的任意目录,比如
D:\DevTools\w64devkit。 - 进入解压后的文件夹,双击运行
w64devkit.exe。
验证编译器是否就绪:
gcc --version make --version
如果能看到版本信息,说明环境已经准备妥当。
1.2 安装与配置 CMake
CMake 是一个跨平台的自动化构建系统生成器。llama.cpp 使用 CMake 来管理其复杂的编译配置。
- 下载 CMake:访问 CMake 官网下载页面,选择'Windows x64 Installer'进行下载。
- 安装 CMake:运行安装程序。在安装过程中,务必勾选'Add CMake to the system PATH for all users'或'Add CMake to the system PATH for current user'。
验证安装:打开一个新的命令提示符(CMD) 或 窗口,输入:

