深入对比了 RAG（检索增强生成）与 LLM 微调两种技术路径。通过分析外部数据需求、模型行为定制、幻觉抑制、训练数据量、数据动态性及可解释性等六个核心维度，阐述了各自的优势与局限。RAG 适合需要访问外部动态数据、追求高透明度及低幻觉的场景；微调则适用于需要特定风格、领域知识固化且数据稳定的场景。文章结合摘要、问答系统及客服自动化等具体用例给出了选型建议，并提出混合方案往往能取得最佳效果。最后总结了实施过程中的成本、复杂度及维护考量，为开发者构建 LLM 应用提供了全面的决策框架。
随着大家对大型语言模型（LLM）的兴趣激增，许多开发者也在构建基于 LLM 的应用。当直接使用 Prompt 驱动的 LLM 表现不如预期时，问题就出现了：如何提高 LLM 应用的可用性。这时我们需要权衡：是选择检索增强生成（Retrieval-Augmented Generation，缩写 RAG）还是模型微调来改善结果？
在深入探讨之前，让我们揭开这两种方法的神秘面纱：
RAG： 这种方法将检索（或搜索）的能力整合到 LLM 文本生成中。它结合了一个检索系统，从大型语料库中获取相关的文档片段，LLM 利用这些片段中的信息生成答案。实质上，RAG 帮助模型'查找'外部信息，以改善其回应。
Finetuning（微调）： 这是将预训练的 LLM 进一步训练到较小、特定数据集上的过程，以使其适应特定任务或提高性能。通过微调，我们根据特有的数据集调整模型的权重，使其更适合我们应用程序的独特需求。
RAG 和微调都是增强 LLM 应用性能的强大工具，但它们涉及优化过程的不同方面，这在选择其中一种时至关重要。
以前，我经常建议在深入微调之前尝试使用 RAG。这是基于我对两种方法都能够取得类似结果但在复杂性、成本和质量方面有所不同的看法。甚至过去常常用这样的图表来说明这一观点：
在这个图表中，各种因素，如复杂性、成本和质量，沿着一个维度表示出来。结论是？RAG 更简单且成本更低，但其质量可能无法匹配。通常的建议是：首先尝试 RAG，评估其性能，如果发现不足，再转向微调。
现在我的观点已经发生了变化。之前很多人把 RAG 和微调视为两种实现相同结果的技术，只是其中一种比另一种更便宜和不那么复杂，这是一种过于简单化的看法。
两种技术工具在本质上是完全不同的，两者不是相互关联的，算是正交的相互独立关系，单独一种都可以满足 LLM 应用的需求。
为了更清晰地说明这一点，考虑一个简单的现实世界类比，**当面临：'我应该用刀还是勺子吃饭'的问题时，最合乎逻辑的反问是：'那得看你吃的是什么'。**我问了身边人这个问题，每个人都本能地回答了这个反问，表明他们不认为刀和勺子可以互换使用，也不认为其中一个是另一个的劣质替代品。
接下来我们会探讨如何区分 RAG 和微调的细微差别，这些差别涵盖了我认为在确定特定任务的最佳技术时至关重要的各个方面。此外，我们将研究 LLM 应用程序的一些最受欢迎的用例。在文章的最后部分，我们将提及在构建 LLM 应用程序时应考虑的其他方面。
选择正确的技术来适应大型语言模型可以对自然语言处理应用程序的成功产生重大影响。选择错误的方法可能导致：
RAG 和微调之间的微妙差别涵盖了模型架构、数据要求、计算复杂性等多个方面。忽视这些细节可能会使您的项目进度和预算失控。选择正确的工具成了项目成功的基础。
在选择 RAG 与微调之前，我们应该通过一些维度来评估我们 LLM 项目的需求，并问自己一些问题：我们的用例是否需要访问外部数据源？
在选择微调 LLM 还是使用 RAG 之间，一个关键考虑因素是应用程序是否需要访问外部数据源。如果答案是肯定的，那么 RAG 可能是更好的选择。
RAG 系统根据定义旨在通过从知识源中检索相关信息，然后生成响应来增强 LLM 的功能。这使得这种技术非常适用于需要查询数据库、文档或其他结构化/非结构化数据存储库的应用程序。检索器和生成器组件可以进行优化以利用这些外部来源。
相反，虽然可以通过微调 LLM 来学习一些外部知识，但这需要一个大规模的标记数据集，其中包含来自目标领域的问题答案对。这个数据集必须在底层数据发生变化时进行更新，这使得它对于频繁变动的数据源不切实际。微调过程还不会明确建模查询外部知识所涉及的检索和推理步骤。
因此，如果我们的应用程序需要利用外部数据源，使用 RAG 系统可能比仅通过微调来'嵌入'所需的知识更有效和可扩展。
第二个问题就是：我们是否需要修改模型的行为、写作风格或领域特定知识？ 另一个非常重要的考虑因素是我们是否需要模型调整其行为、写作风格或为领域特定应用程序定制其响应的程度。
微调在将 LLM 的行为调整到特定细微差别、语气或术语方面表现出色。如果我们希望模型听起来更像医疗专业人员、以诗意的风格写作，或使用特定行业的行话，那么在领域特定数据上进行微调可以实现这些定制。影响模型行为的能力对于需要与特定风格或领域专业知识保持一致的应用程序至关重要。
RAG 虽然在整合外部知识方面非常强大，但主要侧重于信息检索，不会根据检索到的信息固有地调整其语言风格或领域特定性。它将从外部数据源中提取相关内容，但可能不会表现出微调模型可以提供的定制细微差别或领域专业知识。
因此，如果我们的应用程序需要专业的写作风格或深刻与领域特定的用语和惯例相一致，微调提供了实现这种一致性的更直接途径。它提供了深度和定制所需，以真正与特定受众或专业领域产生共鸣，确保生成的内容感觉真实且富有见识。
在决定使用哪种方法来提升 LLM 应用性能时，考虑这两个方面是迄今为止最重要的。有趣的是，它们在我看来是正交的，可以独立使用也可以结合使用。在深入研究用例之前，在选择方法之前还有一些关键方面需要考虑：
LLM 的一个缺点是它们倾向于产生幻觉，也就是编造没有现实依据的事实或细节。在强调准确性和真实性至关重要的应用中，这可能会带来很大问题。
微调可以通过将模型基于特定领域的训练数据来一定程度上减少幻觉。然而，当面临不熟悉的输入时，模型仍然可能会编造响应结果，所以需要不断的重新训练以不断减少虚假制造。
相比之下，RAG 在生成最终的响应时受到合并检索上下文支持的约束，使得 RAG 不容易产生幻觉。具体来说就是，检索器在生成器构建答案之前从外部知识源中识别相关事实，这个检索步骤充当事实检查机制，大大降低模型虚构的能力。
因此，在抑制虚假和想象性制造非常重要的应用中，RAG 系统提供了内置机制以减少幻觉。RAG 在确保事实准确和真实的输出方面具有优势。
在选择 RAG 和微调之间时，一个关键因素是我们手头是否有领域或任务特定的标记训练数据的数量。
微调 LLM 以适应特定任务或领域在很大程度上取决于可用的标记数据的质量和数量。 丰富的数据集可以帮助模型更深入地理解特定领域的细微差别、复杂性和独特模式，从而生成更准确和上下文相关的响应。
如果我们只使用有限的数据集，微调可能带来的改进可能会有限。在某些情况下，较少的数据集甚至可能导致过拟合，模型在训练数据上表现良好，但在看不见的或用户真实的输入上表现不佳。
相反，RAG 系统独立于训练数据，因为它们利用外部知识源来检索相关信息。即使我们没有大量的标记数据集，RAG 系统仍然可以通过访问并整合来自其外部数据源的见解来胜任工作。检索和生成的结合确保了该系统在领域特定训练数据稀缺时仍然具有数据的基础和上下文的意识。
简而言之，如果我们拥有大量捕捉领域细微差别的标记数据，微调可以提供更贴合和精细的模型行为。但在数据有限的情况下，RAG 系统提供了一个坚固的选择，确保应用程序通过其检索功能保持数据意识和上下文感知。
在选择 RAG 和微调之间的另一个基本方面是我们数据的动态性质，也就是数据的更新频率，模型保持最新的重要程度。
在特定数据集上微调 LLM 意味着模型的知识成为训练时的那个时间点上的数据的静态快照。 如果数据经常更新、更改或需要扩展，这可能会迅速使模型过时。
为了在这种动态环境中保持 LLM 的最新性，我们需要频繁重新训练它，这是一个既耗时又资源密集的过程。此外，每次迭代都需要仔细监控，以确保更新后的模型在不同场景下仍然表现良好，并且没有产生新的偏见或理解差距。
相比之下，RAG 系统在动态数据环境中具有固有的优势。它们的检索机制不断查询外部源，确保用于生成响应的信息是最新的。随着外部知识库或数据库的更新，RAG 系统无缝集成这些变化，无需频繁重新训练模型即可保持其相关性。
如果我们面临的是不断发展的数据格局，RAG 提供了传统微调难以匹配的灵活性。通过始终与最新数据保持连接，RAG 确保生成的响应与信息的当前状态保持一致，使其成为动态数据场景的理想选择。
最后一个方面是我们需要对大语言模型的决策过程了解多少，也就是 LLM 的可解释性如何。
微调 LLM 虽然非常强大，但操作起来像一个黑匣子，这代表着其响应背后的推理过程是模糊的。 模型内化了数据集中的信息，这使得我们很难辨别每个响应背后的确切来源。
这可能会使开发人员或用户难以信任模型的输出，尤其是在关键应用程序中，了解答案背后的'为什么'至关重要时。
相较而言，RAG 系统提供了通常在仅微调模型中达不到的透明度。鉴于 RAG 的两步特性：检索然后生成，开发者或者用户可以窥视整个过程。检索组件允许检查选择为相关的外部文档或数据点。这提供了一个切实可行的证据或参考轨迹，可以评估并且真正去理解响应构建的过程。
在 RAG 应用中，我们拥有可以将模型的答案追溯到特定数据源的能力，在需要高度负责任的应用程序中或需要验证生成内容准确性时这是非常有价值的。
简而言之，如果透明度和解释模型响应底层机制的能力是优先考虑的因素，那么 RAG 占据明显优势。 通过将响应生成拆分为不同阶段，并允许查看其数据检索，RAG 在其输出中培养了更高的信任和理解。
在考虑以上 06-09 这几个维度时，选择 RAG 还是微调，变得更加直观。如果我们需要倾向于访问外部知识并重视透明度，那么 RAG 是我们的首选。另一方面， 如果我们使用稳定的标记数据并希望更紧密地适应特定需求，微调是更好的选择。
接下来我们根据上述的标准，依次评估 LLM 应用在几个场景中如何选择合适的方法：
建议： 如果我们的主要目标是内容摘要风格的对齐，微调似乎更合适，这也是微调的亮点。假设有足够多的数据可供训练，微调 LLM 将允许对所需的风格进行深度适应，捕捉到特定领域的细微差异。 如果摘要数据库需要是动态的，并且在追溯影响方面有要求，可以考虑混合使用两者或倾向于使用 RAG。
建议： 对于这种场景，RAG 系统似乎是更合适的选择。考虑到需要动态访问不断发展的内部数据库以及在答案过程中可能需要更多透明性和可解释性，RAG 与这些需求能良好的契合。 如果强调定制模型的语言风格或适应特定领域的细微差异，可以考虑引入微调。
建议： 对于客服自动化，混合方法是最佳的选择。 微调可以确保客服机器人与公司客服人员的语气一致，可以更加方便的处理多数典型客户的问题。然后，RAG 可以作为补充系统，用于处理更动态或非常特定的查询，确保客服机器人可以从最新的公司文档或知识库中检索，从而最小化幻觉。通过整合这两种方法，公司可以提供全面、及时并且与品牌形象一致的客户支持体验。
决定使用 RAG 还是微调或两者同时使用时，还有其他因素需要考虑。这些因素都是多方面的，没有明确的答案。例如，如果没有训练数据集，微调就根本不可能。
随着业务的增长和产品需求的演变，就得考虑的现在选择的方法是否可扩展。由于 RAG 具有模块化的特性，尤其是当知识库不断增长时，它们可以提供更简单的可扩展性。另一方面，频繁地微调模型以满足不断扩展的数据集，可能会对计算资源提出更高要求。
如果应用需要实时响应，那就必须考虑每种方法引入的延迟。使用阶段 RAG 相比微调会引入更多延迟。
RAG 需要同时维护数据库和检索机制，而微调则需要持续的重复训练，尤其是如果数据或需求发生变化时。
虽然 RAG 系统可以从外部知识源中获取数据，并且可能处理各种各样的问题，但经过良好微调的模型在某些领域可能提供更一致的性能。
从外部数据库中存储和检索数据可能会引发隐私问题，尤其是如果数据是敏感的。微调模型虽然不会查询实时数据库，但仍可能根据其训练数据产生输出，这可能会涉及到伦理问题。
现在我们可能已经拥有某些软件应用的基础设施，RAG 或微调与现有系统的兼容性也是值得考虑的问题。无论是现有的数据库、云基础设施还是前端用户界面，都可能影响我们的选择。
考虑最终用户及其需求，如果他们需要详细的、有参考依据的答案，那么 RAG 可能更可取。如果用户重视速度和特定的领域专业知识，那么微调模型可能更合适。
微调可能会昂贵，尤其是基于非常大的模型进行微调。不过在过去的几个月里，**由于像 QLoRA 这样的高效微调技术的出现，使得成本已经大幅下降。**RAG 可能需要初始投资，主要是清洗整合知识库，之后还需要考虑外部数据的维护成本。
微调可能会比 RAG 更加复杂。虽然现在许多出现了很多一键微调的服务，我们只需提供训练数据，但跟踪模型版本，确保新模型在各个方面仍然表现良好都是具有挑战性的。RAG 也可以很快变得复杂，因为需要设置多个组件，确保数据库保持更新，以及确保检索和生成等部分完美配合。这两种方法都需要针对生成结果进行评估，而评估的复杂程度在目前依旧很高。
正如我们所探讨的，选择 RAG 和微调需根据 LLM 应用程序的需求进行细致评估。不同的解决方案适用于不同情况，成功在于将优化方法与任务具体要求相结合。通过评估关键标准，如外部数据需求、调整模型行为、训练数据可用性、数据动态性、结果透明度等，组织可以明智地选择最佳路径。在某些情况下，RAG 与微调的混合方法可能是最佳选择。
关键是避免认为一种方法在所有情况下都具有优越性。这些方法如同工具，适用性取决于手头的任务和需求。方法与目标不一致可能会阻碍应用的进展，而正确的方法会加速进展。
在评估提升 LLM 应用程序能力的选项时，我们需要避免过度简化。虽然这些方法所开启的可能性令人瞩目，但关键还是在于执行。后续实践中，建议先建立基线模型，通过小规模实验验证假设，再逐步扩大规模。
为了确保项目顺利落地，建议遵循以下实施路径：
通过科学的方法论指导，结合具体的业务场景灵活选择技术方案，才能最大化 LLM 的应用价值。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
