AI 问答知识库本地化部署指南：基于 FastGPT

服务器需要安装好 Docker 环境。

部署过程

部署架构图

（此处省略架构图，实际部署请参考官方文档获取最新拓扑图）

部署说明

1. 安装 Docker 和 docker-compose

# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker

# 安装 docker-compose
curl -L https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose

# 验证安装
docker -v
docker-compose -v

2. 创建共用网络

给 docker 中的容器创建一个共用网络，确保各组件间通信。

docker network create my-network

3. 安装 M3E 矢量模型

用于处理文本向量化，支持中文语义理解。

docker run -d --name m3e --network my-network -p 3030:6008 registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api

4. 安装 OneAPI

OneAPI 用于统一管理不同的大模型 API 密钥和路由。

docker run --name one-api --network my-network -d --restart always -p 3200:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

5. 配置模型

添加阿里通义千问模型和 M3E 模型。

• 配置 M3E 矢量模型地址为 http://localhost:3030/v1/embeddings。
• 默认密钥需根据实际情况设置，生产环境请修改默认密钥。

6. 安装 FastGPT

1. 创建目录并下载配置文件

mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

2. 修改 docker-compose.yml 环境变量

编辑 docker-compose.yml，修改以下环境变量：

• OPENAI_BASE_URL：API 接口的地址，格式为 http://<one-api-ip>:3200/v1。
• CHAT_API_KEY：API 接口的凭证，对应 OneAPI 中生成的 Key。

3. 修改 config.json 配置文本模型和矢量模型

编辑 config.json，填入具体的模型 ID 和向量模型配置，确保与 OneAPI 和 M3E 服务匹配。

4. 启动容器

在 docker-compose.yml 同级目录下执行：

cd 项目目录
docker-compose pull
docker-compose up -d

5. 初始化 Mongo 副本集

MongoDB 版本 4.6.8 以前可忽略此步骤，新版本建议初始化副本集以保证数据一致性。

# 查看 mongo 容器是否正常运行
docker ps

# 进入容器
docker exec -it mongo bash

# 连接数据库（替换实际用户名和密码）
mongo -u myusername -p mypassword --authenticationDatabase admin

# 初始化副本集
rs.initiate({
  _id: "rs0",
  members: [
    { _id: 0, host: "mongo:27017" }
  ]
})

# 检查状态
rs.status()

使用案例

部署完成后，访问 http://<服务器 IP>:3001/。

1. 添加知识库

登录后台后，进入知识库管理页面，上传文档或输入文本。系统会自动进行切片和向量化处理。

2. 创建应用

选择已导入的知识库，创建新的对话应用。可配置开场白、回复风格等参数。

3. 聊天测试

在应用详情页进行测试，验证问答效果。根据反馈调整知识库内容或提示词。

系统集成

FastGPT 支持接入到其他系统中。通过提供的 API 接口，可以将 AI 能力嵌入到企业内部系统、网站或移动端应用中。

常见问题与排查

1. 容器无法启动

检查日志 docker-compose logs，确认端口冲突或镜像拉取失败。确保 Docker 版本兼容。

2. 模型调用失败

检查 OneAPI 配置是否正确，确保 OPENAI_BASE_URL 包含 /v1 后缀。验证 API Key 权限。

3. 向量检索慢

如果数据量大，考虑增加 M3E 模型的显存或优化切片策略。检查 MongoDB 索引情况。

4. 安全加固

• 修改默认密码和密钥。
• 配置 Nginx 反向代理，开启 HTTPS。
• 限制 API 访问 IP 白名单。

总结

通过上述步骤，您可以成功在本地部署一套完整的 AI 问答知识库系统。FastGPT 提供了灵活的配置和强大的扩展能力，适合各类企业级应用场景。定期更新组件和关注官方社区动态，有助于保持系统的稳定性和安全性。