node-llama-cpp 跨平台安装与配置指南
node-llama-cpp 是基于 llama.cpp 的 Node.js 绑定库，支持在本地机器上运行 AI 模型，并能在生成级别强制模型输出符合 JSON 模式。下面将介绍如何在 Windows、Linux 和 Mac 系统上进行安装与配置。
环境准备
开始之前，请确保你的开发环境满足以下基础要求：
- Node.js 环境（建议使用最新的 LTS 版本）
- npm 包管理器
- Git 版本控制工具
快速安装
node-llama-cpp 提供了预构建的二进制文件，适用于 macOS、Linux 和 Windows 系统，因此安装过程通常非常简单。只需在终端中运行以下命令：
npm install node-llama-cpp
这条命令会自动下载并安装适合你当前系统的预构建二进制文件。如果你的系统没有可用的预构建二进制文件，node-llama-cpp 会自动下载 llama.cpp 的源代码并尝试从源码构建。
Windows 系统详细安装指南
1. 安装依赖
在 Windows 系统上，如果你需要从源码构建 node-llama-cpp，需要安装以下构建工具。可以通过 WinGet 一次性安装所有依赖：
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
WinGet 是 Windows 11 和现代 Windows 10 版本的内置工具。
或者，你也可以手动下载并安装 Visual C++ Build Tools，确保勾选以下组件：
- C++ CMake 工具
- C++ Clang 编译器
- Windows 10 SDK
- Windows Universal CRT SDK
2. Windows on ARM 额外要求
如果你使用的是 Windows on ARM 系统，需要安装额外的构建工具：
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.Tools.ARM64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATL.ARM64 Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.MFC.ARM64 Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
Linux 系统详细安装指南
1. 安装依赖
在 Linux 系统上，你需要安装以下依赖：
- build-essential
- cmake
- git
- libstdc++6
- libgomp1 (用于 OpenMP 支持)
对于 Debian/Ubuntu 系统，可以使用以下命令安装：
sudo apt-get update && sudo apt-get install build-essential cmake git libstdc++6 libgomp1
2. 从源码构建
如果需要从源码构建，可以使用以下命令：
npx node-llama-cpp source download
npx node-llama-cpp source build
Mac 系统详细安装指南
1. 安装 Xcode 命令行工具
在 Mac 上，你需要安装 Xcode 命令行工具：
xcode-select --install
2. 安装依赖
使用 Homebrew 安装必要的依赖：
brew install cmake git
3. 从源码构建
如果需要从源码构建，可以使用以下命令：
npx node-llama-cpp source download
npx node-llama-cpp source build
配置模型自动下载
为了确保在运行 npm install 后自动下载模型，建议在 package.json 中设置 postinstall 脚本。具体配置方法可以参考官方文档中的 Using the CLI 部分。
常见问题解决
构建失败
如果构建失败，请确保你已安装所有必要的构建工具和依赖。对于特定平台的问题，可以参考 building-from-source 文档。
Windows 上的权限问题
如果在 Windows 上遇到权限错误，确保不要使用管理员账户运行 npm install，然后用普通用户账户运行代码。
Electron 应用构建问题
在 Windows 上构建 Electron 应用时，如果遇到 EPERM: operation not permitted 错误，需要启用开发者模式以允许创建符号链接。
总结
通过上述步骤，你应该已经能够在 Windows、Linux 和 Mac 系统上成功安装和配置 node-llama-cpp。现在你可以开始在本地运行 AI 模型，享受高效的 AI 推理体验了。更多细节请参考官方文档或提交 issue 寻求支持。
