编程语言AI算法
基于 Ollama 与 AnythingLLM 搭建本地 RAG 知识库
检索增强生成（RAG）技术及其与大语言模型的关系，详细演示了如何使用 Ollama 部署本地大模型（如 Qwen2），并结合 AnythingLLM 工具搭建个人本地知识库。内容涵盖环境安装、模型选择、服务器模式配置、向量数据库设置及文档上传问答流程，旨在帮助用户实现离线或本地的智能知识管理。同时补充了性能调优、安全配置及常见故障排查建议，确保知识库稳定运行。
检索增强生成（RAG）技术及其与大语言模型的关系，详细演示了如何使用 Ollama 部署本地大模型（如 Qwen2），并结合 AnythingLLM 工具搭建个人本地知识库。内容涵盖环境安装、模型选择、服务器模式配置、向量数据库设置及文档上传问答流程，旨在帮助用户实现离线或本地的智能知识管理。同时补充了性能调优、安全配置及常见故障排查建议，确保知识库稳定运行。
RAG，即检索增强生成（Retrieval-Augmented Generation），是一种先进的自然语言处理技术架构。它旨在克服传统大型语言模型（LLMs）在处理开放域问题时的信息容量限制和时效性不足。RAG 的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更为灵活和精准的解决方案。
RAG 不是对 LLM 的替代，而是对其能力的扩展与升级。传统 LLM 受限于训练数据的边界，对于未见信息或快速变化的知识难以有效处理。RAG 通过动态接入外部资源，使 LLM 得以即时访问和利用广泛且不断更新的知识库，进而提升模型在问答、对话、文本生成等任务中的表现。
RAG 就像是为大型语言模型配备了一个即时查询的'超级知识库'。这个'外挂'不仅扩大了模型的知识覆盖范围，还提高了其回答特定领域问题的准确性和时效性。
基于此，RAG 技术特别适合用来做个人或企业的本地知识库应用，利用现有知识库资料结合 LLM 的能力，针对特定领域知识的问题能够提供自然语言对话交互，且答案比单纯用 LLM 准确性要高得多。
本文将采用 Ollama + Qwen2.5 + AnythingLLM 来实现本地知识库搭建。
Ollama 本身不是 LLM，而是一个服务于 LLM 的工具。它提供了一个平台和环境，使得开发者和研究人员能够在本地机器上轻松地运行、测试和部署各种大型语言模型。
下载地址支持 Windows、Mac、Linux。也可以使用 Docker 安装官方镜像。
当你运行 ollama --version 命令成功查询到版本时，表示 Ollama 的安装已经顺利完成。
接下来便可以用 pull 命令从在线模型库下载模型，例如：
ollama pull llama2
还有更简单的方法直接使用 run 命令，它会在运行之前自动检查模型是否下载，如果没有会自动下载：
ollama run llama3
由于目标是搭建中文本地知识库，需要选择对中文支持较好的模型。Ollama 官方提供的模型中，比较好的有：
安装并运行 Qwen2 模型，注意根据硬件配置选择合适的参数量（如 7B）：
ollama run qwen2:7b
模型下载的默认路径通常是 /Users/${home}/.ollama/models（macOS/Linux）或对应系统目录。
AnythingLLM 需要通过 API 调用 Ollama，因此需要将 Ollama 设置为服务器模式。
在终端里输入以下命令开启服务：
ollama serve
此时 Ollama 将在后台运行大模型，并开放端口给其他软件调用。
下载安装 AnythingLLM 客户端后，开始进行连接配置。
Ollama。http://127.0.0.1:11434。Qwen2.5 7b。搭建知识库涉及两个关键组件：
在 AnythingLLM 中，可以使用默认的嵌入模型以及向量数据库，也可以根据需求更换为 ChromaDB、Pinecone 等。
完成基础设置后，进入 Workspace 管理页面：
聊天模式有两种主要设置：
为了获得更好的体验并确保数据安全，建议关注以下几点：
ollama serve 进程是否正常运行，确认防火墙未拦截 11434 端口。通过上述步骤，即可成功搭建一个基于 Ollama 和 AnythingLLM 的本地个人知识库。该方案充分利用了开源大模型的能力，实现了数据的私有化存储与智能问答，适用于法律、医疗、企业内部文档等多种需要高度专业化或快速更新信息的场景。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online