node-llama-cpp 跨平台安装与配置实战
node-llama-cpp 提供了 llama.cpp 的 Node.js 绑定,让你能在本地机器上运行 AI 模型,并在生成阶段强制输出符合 JSON 格式。这篇指南将带你完成 Windows、Linux 和 macOS 系统的完整搭建流程。
环境准备
在动手之前,请确认你的开发环境满足以下基础要求:
- Node.js 环境(推荐最新 LTS 版本)
- npm 包管理器
- Git 版本控制工具
快速上手
该库预构建了适用于主流操作系统的二进制文件,安装通常只需一行命令:
npm install node-llama-cpp
执行后,包管理器会尝试拉取适配当前系统的预编译文件。如果找不到对应架构的二进制包,它会自动下载 llama.cpp 源码并尝试本地构建。
Windows 系统详细步骤
依赖安装
若需从源码构建,Windows 需要特定的构建工具链。推荐使用 WinGet 一键安装 Visual Studio Build Tools:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
或者手动下载安装程序时,务必勾选以下组件:
- C++ CMake 工具
- C++ Clang 编译器
- Windows 10 SDK
- Windows Universal CRT SDK
ARM 架构额外配置
如果你使用的是 Windows on Arm 设备,构建指令略有不同,需增加 ARM64 相关组件:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.Tools.ARM64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATL.ARM64 Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.MFC.ARM64 Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"

