本文介绍如何利用开源工具 Ollama 和 MaxKB，在本地环境零成本部署基于 Llama3 模型的私有 AI 知识库。方案涵盖模型下载、Docker 服务部署、知识库创建及助手配置全流程，支持文档导入与智能问答，适用于企业内部知识管理及客服场景。文章详细说明了硬件要求、环境配置、API 对接方式及常见问题优化策略，确保数据隐私安全且易于维护。
在业务场景中，销售人员或客服团队往往面临产品知识繁杂、技术参数复杂的问题。传统的培训方式效率低且难以随时查阅。利用本地部署的大语言模型构建私有 AI 知识库，可以实现零成本的知识问答系统。
本方案采用开源工具组合：
该方案完全利用本地资源，数据不出内网，无需支付 API 费用，并可嵌入公司网站或小程序。
Ollama 是本地运行大模型的轻量级服务。
ollama --version
ollama run llama3
首次运行会自动下载模型文件，等待进度条完成即可。模型默认量化版本约为 4GB 大小，适合消费级硬件。
MaxKB 是一个容器化的知识库应用，通过 Docker 快速部署。
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
-p 8080:8080：映射 Web 访问端口。-v ~/.maxkb:/var/lib/postgresql/data：持久化数据库数据。登录 MaxKB 管理后台后，需配置后端模型连接。
admin / MaxKB@123..，首次登录请修改密码。Local-Llama3。OpenAI 兼容模式（Ollama 兼容 OpenAI 协议）。llama3（与 Ollama 中下载的模型名一致）。http://127.0.0.1:11434。ollama-key），Ollama 通常不需要鉴权。知识库是存储企业文档的核心组件。
助手是将知识库转化为对话能力的入口。
搭建完成后，可通过以下方式将能力赋能业务。
通过浏览器访问生成的助手链接，供内部员工或外部客户使用。
MaxKB 支持生成 iframe 代码，可嵌入企业官网或微信小程序 H5 页面。
<iframe src="http://your-domain.com/chat" width="100%" height="600px"></iframe>
通过调用 MaxKB 提供的 RESTful API，可将问答能力集成到自有系统中。
import requests
url = "http://127.0.0.1:8080/api/v1/kb/chat"
headers = {"Authorization": "Bearer YOUR_API_KEY"}
data = {
"question": "这款产品的适用人群有哪些？",
"knowledge_base_id": "kb_id_123"
}
response = requests.post(url, json=data, headers=headers)
print(response.json())
通过 Ollama 和 MaxKB 的组合，我们成功构建了一个零成本的私有 AI 知识库。该系统不仅解决了销售人员记忆负担重的问题，还能作为智能客服提升客户体验。由于采用开源架构，后续可根据需求扩展多模态支持或微调特定领域模型。对于希望降低 AI 落地门槛的企业，这是一个值得推荐的实践方案。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online