node-llama-cpp 安装与配置:Windows、Linux 和 Mac 教程
node-llama-cpp 是一个基于 llama.cpp 的 Node.js 绑定库,让你能够在本地机器上运行 AI 模型,并在生成级别强制模型输出符合 JSON 模式。
一、准备工作
在开始安装 node-llama-cpp 之前,请确保你的系统满足以下要求:
- Node.js 环境(建议使用最新的 LTS 版本)
- npm 包管理器
- Git 版本控制工具
二、快速安装:使用 npm
node-llama-cpp 提供了预构建的二进制文件,适用于 macOS、Linux 和 Windows 系统,因此安装过程非常简单。只需在终端中运行以下命令:
npm install node-llama-cpp
这条命令会自动下载并安装适合你当前系统的预构建二进制文件。如果你的系统没有可用的预构建二进制文件,node-llama-cpp 会自动下载 llama.cpp 的源代码并尝试从源码构建。
三、Windows 系统详细安装指南
3.1 安装依赖
在 Windows 系统上,如果你需要从源码构建 node-llama-cpp,需要安装以下构建工具:
你可以通过 WinGet 安装所有依赖:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
WinGet 是 Windows 11 和现代 Windows 10 版本的内置工具。
或者,你也可以手动下载并安装 Visual C++ Build Tools,确保勾选以下组件:
- C++ CMake 工具
- C++ Clang 编译器
- Windows 10 SDK
- Windows Universal CRT SDK
3.2 Windows on Arm 额外要求
如果你使用的是 Windows on Arm 系统,需要安装额外的构建工具:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.Tools.ARM64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATL.ARM64 Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.MFC.ARM64 Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"

