DeepSeek + 本地知识库搭建指南：基于 Cherry Studio 与 AnythingLLM

4. 知识库配置步骤

1. 进入「知识库」模块，点击「添加」。
2. 选择嵌入模型（Embedding Model），此处应选 bge-m3。
3. 填写知识库名称，例如 My_Project_Docs。

5. 添加知识文档

Cherry Studio 支持直接添加文件文件夹，也支持批量导入。

• 操作方式：将文档拖拽至上传框，或点击添加按钮选择目录。
• 状态反馈：添加完成后出现绿色对号，表示向量化完成。
• 优势：支持增量更新，修改源文件后可重新索引。

6. 搜索验证与问答测试

配置完成后，即可进行检索测试。

1. 点击搜索知识库功能。
2. 输入关键词或自然语言问题。
3. 观察搜索结果的相关性。

即使输入内容不完全匹配，系统也能基于语义关联返回正确信息。

7. 大模型处理与对话

最后一步是将知识库挂载到聊天会话中。

1. 点击左上角聊天图标。
2. 进入「助手」设置，选择默认助手或新建助手。
3. 选择大模型：优先选择本地部署的 DeepSeek 模型。
4. 设置知识库：务必勾选之前创建的知识库，否则不会参考私有数据。
5. 输入提问内容并发送。

结果展示： DeepSeek 会整理回答，并明确标注参考了哪些资料片段，实现可追溯的 AI 辅助。

8. 满血版配置

如果本地算力有限，可以在模型服务中配置在线的 DeepSeek API 服务，以获得更强的推理能力。但请注意隐私风险。

安全警告：如果你的知识库包含敏感隐私数据，请严禁联网！严禁联网！严禁联网！

三、方案二：基于 AnythingLLM 搭建

AnythingLLM 是一个开源的桌面端应用，提供完整的 RAG 工作流，适合需要更灵活配置的技术人员。

1. 下载与安装

访问 AnythingLLM 官网下载 Desktop 版本。安装时同样建议避开 C 盘。

2. 基础配置

1. 点击左下角设置。
2. LLM 首选项：
   • 选择 Ollama 作为模型提供商。
   • 选择已安装的 DeepSeek 模型。
   • 确认地址为 http://localhost:11434。
   • 保存设置。

3. 向量数据库：

   • 默认使用内置 SQLite 或 Weaviate。
   • 若未指定目录，默认在 C 盘，后续可在设置中迁移。

4. 嵌入模型：

   • 可使用自带模型，也可连接 Ollama 安装的 bge-m3。

3. 工作区与文档管理

1. 新建工作区（Workspace）。
2. 默认会话模式下，直接将文档拖拽到上传框。
3. 系统会自动解析并建立索引。

注意事项：

• 文档在工作区内是共用的，多人协作需注意权限管理。
• 支持远程文档接入，如 Confluence、GitHub 仓库等。

4. API 功能

AnythingLLM 提供 API 接口，允许外部程序调用知识库问答功能，适合作为公共知识库服务后端。

四、方案对比与总结

总结：

• Cherry Studio 体验更佳，操作直观，适合快速搭建个人助手。
• AnythingLLM 更像是一个包壳的 Web 应用，具备更强的工程化能力，适合技术人员二次开发。
• 对于喜欢折腾的开发人员，还可以结合 Dify 等编排平台使用，实现更复杂的 Agent 工作流。

五、本地知识库的优势

1. 隐私安全性：数据完全本地化，无需上传云端，防止资料外泄。
2. 离线可用：断网环境下依然可以正常查询和生成内容。
3. 个性化增强：AI 能学习你的文档习惯，在代码开发中快速生成符合你风格的代码。
4. 成本可控：无需支付昂贵的 API 调用费用，仅需硬件投入。

六、常见问题排查 (Troubleshooting)

1. 模型加载失败

• 现象：Ollama 启动后无法列出模型。
• 解决：检查端口是否被占用（默认 11434），确认环境变量 OLLAMA_HOST 设置正确。

2. 向量检索速度慢

• 原因：文档切片过大或向量维度不匹配。
• 解决：调整 Embedding 模型的 chunk size，建议使用 bge-m3 以获得更好的中文语义表现。

3. 显存不足

• 现象：运行大模型时崩溃。
• 解决：尝试量化模型（如 GGUF 格式的 Q4_K_M），或减少并发请求数。

七、进阶建议

为了进一步提升效果，建议关注以下方向：

1. 提示词工程：优化 System Prompt，明确告诉 AI 角色设定及回答规范。
2. 混合检索：结合关键词检索与向量检索，提高召回准确率。
3. 定期维护：及时清理过期文档，保持知识库的时效性和准确性。

通过以上步骤，你可以成功构建一个安全、高效且个性化的本地 AI 知识库系统。