node-llama-cpp 跨平台安装与配置指南
node-llama-cpp 是基于 llama.cpp 的 Node.js 绑定库,允许你在本地机器上运行 AI 模型,并能在生成级别强制模型输出符合 JSON 模式。下面将介绍如何在 Windows、Linux 和 macOS 系统上完成安装与配置。
环境准备
开始之前,请确保你的开发环境满足以下基础要求:
- Node.js 环境(建议使用最新的 LTS 版本)
- npm 包管理器
- Git 版本控制工具
快速安装
node-llama-cpp 提供了预构建的二进制文件,适用于主流操作系统,因此安装过程通常非常简单。在终端中执行以下命令即可自动下载并安装适合当前系统的二进制文件:
npm install node-llama-cpp
如果当前系统没有可用的预构建二进制文件,该库会自动尝试下载 llama.cpp 的源代码并进行本地编译。
Windows 系统详细指南
依赖安装
若需从源码构建,Windows 系统需要安装相应的构建工具。推荐使用 WinGet 一键安装所有依赖:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
WinGet 是 Windows 11 及现代 Windows 10 版本的内置工具。你也可以手动下载 Visual C++ Build Tools,并确保勾选以下组件:
- C++ CMake 工具
- C++ Clang 编译器
- Windows 10 SDK
- Windows Universal CRT SDK
Windows on ARM 额外要求
如果你使用的是基于 ARM 架构的 Windows 设备,需要额外添加 ARM64 相关的构建组件:
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.Tools.ARM64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATL.ARM64 Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.MFC.ARM64 Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"

