Jan 是一款开源的本地大模型客户端，支持在 Windows、Mac 和 Linux 系统上 100% 离线运行。它基于 Llama.cpp 构建，支持 Nvidia GPU 和 Apple M 系列芯片加速，具备本地数据存储、OpenAI API 兼容性及插件扩展能力。用户可以通过二进制包或源码方式进行安装，内置模型 Hub 可下载 GGUF 格式模型。本文详细介绍了 Jan 的核心特性、安装步骤、模型管理及 API 集成方法，适用于希望构建私有化 AI 应用的开发者。
在人工智能大模型应用日益普及的今天，数据隐私与离线运行需求愈发重要。Jan 是一款开源的 ChatGPT 替代品，旨在让用户能够在自己的计算机上 100% 离线运行大型语言模型（LLM）。该项目目前在 GitHub 上已获得超过 6K Star，因其跨平台支持和强大的本地化能力而受到开发者关注。
Jan 基于 Llama.cpp 构建，支持从个人 PC 到多 GPU 集群的各种环境。它不仅仅是一个聊天客户端，更是一个本地优先的 AI 原生框架，允许用户构建自定义的 AI 应用。
Jan 支持多种操作系统和硬件架构，确保在不同设备上都能流畅运行：
所有对话历史、模型配置及用户数据均存储在本地，不存在云端泄露风险。用户可以随时导出和迁移数据，完全掌握数据主权。
Jan 内置了一个兼容 OpenAI API 格式的本地服务器。这使得其他应用程序可以直接调用 Jan 提供的模型服务，无需修改代码即可实现私有化部署。
Jan 遵循 Clean Architecture 设计原则，支持插件扩展。开发者可以自行开发功能模块，满足特定场景需求。它支持 GGUF 和 TensorRT 等多种开源模型格式。
为了获得最佳的运行体验，建议参考以下硬件配置：
Jan 提供了两种主要的安装方式：安装包安装和源码编译安装。
对于大多数用户，直接下载预编译的二进制包是最便捷的方式。
.dmg 或 Windows 的 .exe）。如果你需要参与开发或测试最新功能，可以通过源码进行构建。此方法需要一定的开发环境配置经验。
确保你的环境中已安装以下工具：
克隆仓库
git clone https://github.com/janhq/jan.git
cd jan
切换分支 根据需要切换到特定的稳定版本分支：
git checkout DESIRED_BRANCH
安装依赖 使用 Yarn 安装项目所需的依赖包：
yarn install
构建核心模块 编译项目的核心部分：
yarn build:core
打包插件与 UI 构建基础插件和用户界面：
yarn build:plugins
yarn build:uikit
启动开发模式 运行开发服务器进行测试：
yarn dev
Jan 内置了模型 Hub，用户可以直接在应用内搜索并下载开源模型。
在 Jan 中，"Thread"相当于一次独立的对话会话。
Jan 提供了灵活的 JSON 编辑功能，适合高级用户调试。
Jan 的 API 服务器功能是其区别于普通聊天软件的关键特性。
使用示例：
假设你启用了 API 服务，可以使用 curl 命令进行测试：
curl http://localhost:1337/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "mistral",
"messages": [{"role": "user", "content": "你好"}]
}'
这使得你可以将 Jan 作为后端服务集成到你的 Python 脚本、Web 应用或其他自动化流程中。
如果模型无法加载，请检查以下几点：
Jan 为希望在不依赖云服务的条件下使用大模型的用户提供了一个优秀的解决方案。通过其跨平台支持、本地数据安全和开放的 API 接口，Jan 不仅是一个聊天工具，更是构建私有化 AI 基础设施的理想起点。无论是个人开发者还是企业用户，都可以通过 Jan 探索本地大模型的无限可能。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
将 HTML 片段转为 GitHub Flavored Markdown，支持标题、列表、链接、代码块与表格等；浏览器内处理，可链接预填。 在线工具，HTML转Markdown在线工具，online