在 Windows 上安装和编译 llama.cpp

在 Windows 上安装和编译 llama.cpp

1.1 环境准备

1.1.1 安装 mingw

下载地址：mingw-builds-binaries

解压后，将 bin 目录加入环境变量，例如：E:\dev\mingw64\bin

验证安装是否成功：

g++ -v

---

1.1.2 安装 w64devkit

下载地址：w64devkit Releases

解压后，将 bin 目录添加到系统环境变量，例如：E:\dev\w64devkit\bin

1.1.3 安装 CMake

访问 CMake 官网，下载 Windows x64 ZIP（注意：不是安装包）。

解压后，将 bin 目录添加到环境变量，例如：E:\dev\cmake-4.0.3-windows-x86_64\bin

验证是否成功：

cmake --version

---

2.2 克隆 llama.cpp

git clone https://github.com/ggerganov/llama.cpp 

3.3 编译

3.3.1 使用 CMake 构建（新版）

说明：llama.cpp 官方已废弃原来的 Makefile 构建方式，推荐改用 CMake 构建方式 来编译模型工具和推理引擎。

编译 llama.cpp：

如果本地有安装 Visual Studio，推荐使用 Visual Studio + CMake 进行构建（适用于 Windows 用户，兼容性最佳）：

cd path/llama.cpp
mkdir build
cd build
# 使用 Visual Studio 生成项目
cmake .. -G "Visual Studio 17 2022" -A x64 -DLLAMA_CURL=OFF
# 或使用 w64devkit 和 mingw 生成项目
cmake .. -G "MinGW Makefiles" -DLLAMA_CURL=OFF
# 编译 Release 模式
cmake --build . --config Release

如果一切正常，你会在 目录下看到生成的程序。