基于 MaxKB+Ollama+Llama3 构建本地私有化知识库
前言
随着人工智能技术的快速发展，大型语言模型（LLM）已成为众多企业和个人关注的焦点。Ollama 作为一款开源的大型语言模型服务工具，凭借其高效性、灵活性和社区支持等优势，在 NLP、机器翻译和文本生成等领域得到了广泛应用。MaxKB 是一款基于 LLM 的大语言模型知识库问答系统。本文将探讨如何结合 MaxKB、Ollama 与 Llama3，快速零成本构建本地私有化 AI 知识库。
1. 环境准备
在开始部署之前，请确保您的服务器或本地计算机满足以下基础要求：
- 操作系统：Linux (Ubuntu/CentOS), macOS, 或 Windows。
- Docker：已安装并配置好 Docker 引擎及 Docker Compose。
- 网络：能够访问 Docker Hub 拉取镜像，以及 Ollama 官方模型仓库。
- 硬件：建议至少配备 8GB 内存，若运行较大参数量的模型，推荐 16GB 以上内存及独立显卡加速。
2. 安装 Ollama
Ollama 提供了跨平台的命令行工具，用于运行和管理本地大模型。
2.1 Linux/macOS 安装
使用官方提供的安装脚本进行安装：
curl -fsSL https://ollama.com/install.sh | sh
2.2 Windows 安装
直接访问 Ollama 官网下载 Windows 安装包，按照向导完成安装即可。
安装完成后，验证服务是否正常运行：
ollama --version
3. 运行 Llama3 模型
Ollama 默认托管了多个主流开源模型，包括 Llama3。
3.1 启动对话
输入以下命令运行 Llama3 并进行交互：
ollama run llama3
首次运行时，系统会自动下载模型权重文件。下载完成后，即可在终端中输入问题进行对话测试。
3.2 查看已下载模型
若要查看当前本地已下载的模型列表，可使用：
ollama list
4. 安装 MaxKB
MaxKB 是一个开源的基于大语言模型的知识库问答系统，支持通过 Docker 快速部署。
4.1 容器化部署
使用 Docker 运行 MaxKB 容器，映射端口并持久化数据：
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
该命令将 MaxKB 服务部署在 8080 端口，并将数据库数据挂载到宿主机的 ~/.maxkb 目录。
4.2 验证服务状态
检查容器运行状态：
docker ps | grep maxkb
确认服务启动后，可通过浏览器访问 http://127.0.0.1:8080/ui/login#/。
4.3 初始登录
使用默认凭证登录系统：
- 账号：
admin - 密码：
MaxKB@123..
登录后建议立即修改默认密码以确保安全。
