什么是 RAG
RAG（Retrieval-Augmented Generation，检索增强生成）是一种先进的自然语言处理技术架构。它旨在克服传统大型语言模型（LLMs）在处理开放域问题时的信息容量限制和时效性不足。RAG 的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更为灵活和精准的解决方案。
RAG 与 LLM 的关系
RAG 不是对 LLM 的替代，而是对其能力的扩展与升级。传统 LLM 受限于训练数据的边界，对于未见信息或快速变化的知识难以有效处理。RAG 通过动态接入外部资源，使 LLM 得以即时访问和利用广泛且不断更新的知识库，进而提升模型在问答、对话、文本生成等任务中的表现。
RAG 就像是为大型语言模型配备了一个即时查询的'超级知识库'。这个'外挂'不仅扩大了模型的知识覆盖范围，还提高了其回答特定领域问题的准确性和时效性。
想象一下，传统的 LLM 像是一个博学多才但记忆力有限的学者，它依赖于训练时吸收的信息来回答问题。而 RAG，则是这位学者随时可以连线的庞大图书馆和实时资讯网络。当面临复杂或最新的查询时，RAG 能让模型即时搜索并引用这些外部资源，从而提供更加精准、全面和最新的答案。这种设计尤其适用于需要高度专业化或快速更新信息的场景，比如医学咨询、法律意见、新闻摘要等。
基于此，RAG 技术特别适合用来做个人或企业的本地知识库应用，利用现有知识库资料结合 LLM 的能力，针对特定领域知识的问题能够提供自然语言对话交互，且答案比单纯用 LLM 准确性要高得多。
实践方案选型
现成的 RAG 方案有很多，例如 LangChain + ChromaDB, LlamaIndex 等。本文将采用 Ollama + Qwen2.5 + AnythingLLM 的组合来实现轻量级、易部署的本地知识库。
1. Ollama 环境搭建
Ollama 本身不是 LLM，而是一个服务于 LLM 的工具。它提供了一个平台和环境，使得开发者和研究人员能够在本地机器上轻松地运行、测试和部署各种大型语言模型。
下载地址： https://ollama.ai/ 支持 Windows、Mac、Linux。
当然你也可以使用 Docker 安装镜像，官方镜像更多细节请参考 GitHub Readme: https://github.com/ollama/ollama
当你运行 ollama --version 命令成功查询到版本时，表示 Ollama 的安装已经顺利完成。
接下来便可以用 pull 命令从下载模型，例如：
ollama pull llama3
还有更简单的方法直接使用 run 命令，它会在运行之前自动检查模型是否下载，如果没有会自动下载：
ollama run llama3
但是我想搭建的是本地知识库，当然是以中文为主，所以需要对中文支持最好的模型。Ollama 官方提供的模型中，对中文支持较好的有：
- Llama2-Chinese：基于 Llama2 微调。搜'Chinese'关键词就能找到。
- Qwen 1.5 / 2.5：阿里的通义千问。一共有多个尺寸，默认是 4b 或 7b。所有尺寸的模型都支持长上下文长度。多语言支持。
本想用智谱的 GLM，奈何不兼容 Ollama，也没有 GGUF 格式文件，于是作罢。巧的是阿里的通义 Qwen2.5 模型刚刚开源，正好可以试一下。
阿里开源了通义 Qwen2.5 模型，可以说是现阶段这个规模最强的开源模型之一。发布后直接在 Huggingface LLM 开源模型榜单获得第一名。Qwen2.5 在代表推理能力的代码和数学以及长文本表现尤其突出。推理相关测试及大海捞针测试都取得了很好的成绩。
模型概览： Qwen 2.5 模型组成包括 Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-7B、Qwen2.5-14B 等。其中 Qwen2.5-72B-Instruct 最高达到 128K tokens 上下文。
安装并运行 Qwen2.5 模型，注意这里由于笔记本配置问题，选用的是 7B 参数的模型：
ollama run qwen2.5:7b
