在 Windows 上安装和编译 llama.cpp

在 Windows 上安装和编译 llama.cpp

1.1 环境准备

1.1.1 安装mingw

下载地址：mingw-builds-binaries

解压后，将 bin 目录加入环境变量，例如：E:\dev\mingw64\bin

验证安装是否成功：

g++ -v

1.1.2 安装w64devkit

下载地址：w64devkit Releases

解压后，将 bin 目录添加到系统环境变量,例如：E:\dev\w64devkit\bin

1.1.3 安装 CMake

访问 CMake 官网，下载 Windows x64 ZIP（注意：不是安装包）。

解压后，将 bin 目录添加到环境变量，例如：E:\dev\cmake-4.0.3-windows-x86_64\bin

验证是否成功：

cmake --version

2.2 克隆 llama.cpp

git clone https://github.com/ggerganov/llama.cpp 

3.3 编译

3.3.1 使用 CMake 构建（新版）

说明：llama.cpp 官方已废弃原来的 Makefile 构建方式，推荐改用 CMake 构建方式 来编译模型工具和推理引擎。

编译 llama.cpp：

如果本地有安装Visual Studio，推荐使用 Visual Studio + CMake 进行构建（适用于 Windows 用户，兼容性最佳）：

cd path/llama.cpp mkdir build cd build # 使用 Visual Studio 生成项目 cmake ..-G "Visual Studio 17 2022"-A x64 -DLLAMA_CURL=OFF # 或 使用 w64devkit和mingw 生成项目 cmake ..-G "MinGW Makefiles"-DLLAMA_CURL=OFF # 编译 Release 模式 cmake --build .--config Release 

如果一切正常，你会在 build/bin/Release 目录下看到生成的程序。