Corrective Retrieval Augmented Generation (CRAG) 是一种针对大型语言模型幻觉问题的改进方案，通过引入检索评估器、知识细化及网络搜索扩展机制，显著提升了检索增强生成（RAG）的准确性与鲁棒性。该策略利用轻量级评估器判断文档相关性，根据置信度触发不同处理流程，包括直接生成、分解重组或 Web 搜索补充，有效解决了传统 RAG 在检索结果不佳时的失效问题。本文详细解析了 CRAG 的核心架构、工作流程及基于 LangChain 的代码实现细节。
大型语言模型（LLMs）在生成文本时不可避免地会出现幻觉现象，因为其生成内容的准确性无法单靠模型参数中的知识来保证。尽管检索增强生成（RAG）是 LLMs 的一种实用补充，但其效果在很大程度上取决于检索到的文档的相关性，这也引发了人们对检索出错时模型表现的担忧。
为此，有学者提出了一种名为 Corrective Retrieval Augmented Generation（CRAG）的策略，以提升生成的鲁棒性。CRAG 的核心思想在于引入自我反思与自我评估机制，使系统能够在检索结果不理想时自动调整策略，而不是盲目依赖初始检索内容。
具体而言，CRAG 包括一个轻量级的检索评估器，用于评估查询结果的整体文档质量，并返回一个置信度评分。根据该评分，系统会触发不同的知识检索操作。由于从静态、有限的语料库中检索到的文档可能并不理想，CRAG 还通过大规模 Web 搜索来扩展和增强检索结果。
此外，论文设计了一种'分解 - 重组'（decompose-then-recompose）算法，能够对检索到的文档进行选择性处理，聚焦于关键信息并过滤掉无关内容。这种机制确保了即使检索到的文档整体相关性不高，其中包含的局部有效片段也能被提取并利用。
CRAG 具备即插即用的特性，可与各种基于 RAG 的方法无缝结合。实验结果表明，在涵盖短文本和长文本生成任务的四个数据集上，CRAG 显著提升了 RAG 方法的性能。
CRAG 通过纠正策略来提升生成的鲁棒性，其工作流程如下图所示。这个过程展示了 CRAG 在推理阶段的操作流程。
首先，给定一个查询（如'谁是《死亡蝙蝠侠》的编剧？'），系统会进行初步的文档检索，返回一组检索到的文档。接着，检索评估器会对这些检索到的文档与查询的相关性进行评估，判断它们是否能正确回答查询问题，并估计出一个置信度等级。根据评估结果，系统会触发不同的知识检索操作，分为三种情况：正确（Correct）、模糊（Ambiguous） 和 错误（Incorrect）。
对于评估为正确的文档，系统会直接将检索到的文档及其相关知识传递给生成器进行生成。这是最理想的情况，无需额外开销。
如果评估为模糊，系统会进入知识细化阶段（Knowledge Refinement）。在此阶段，首先对文档进行分解和清理，提取出可能有用的片段，然后经过过滤过程筛除无关信息，再将提炼后的信息重新组合成新的知识项，传递给生成器进行生成。这一步骤旨在挖掘文档中的潜在价值，避免因为整体相关性低而丢弃有用信息。
当文档评估为错误时，系统会启动知识搜索阶段（Knowledge Searching）。在这个阶段，会对原始查询进行重写，添加更多的上下文信息，并使用扩展后的查询进行大规模的 Web 搜索，以找到更相关的文档。通过对搜索结果进行筛选，最终选出更符合需求的文档传递给生成器。这相当于引入了外部知识库作为兜底方案。
在整个流程中，生成器会根据不同的知识来源（正确、模糊、错误）生成最终的响应，以提供更加准确和可靠的答案。
# 伪代码逻辑示意
if retrieval_evaluator.score(documents) > threshold_correct:
return generate(documents)
elif retrieval_evaluator.score(documents) > threshold_ambiguous:
refined_docs = decompose_and_recompose(documents)
return generate(refined_docs)
else:
rewritten_query = rewrite_query(original_query)
web_results = web_search(rewritten_query)
return generate(web_results)
Corrective Retrieval Augmented Generation (CRAG) 旨在提升生成的鲁棒性，其核心是通过轻量级检索评估器来区分和触发三种不同的知识检索操作。借助 Web 搜索的扩展和优化知识利用，CRAG 显著增强了自动自我纠正的能力，并有效地利用检索到的文档信息。实验结果广泛证明了 CRAG 对 RAG 方法的适应性，以及在短格式和长格式生成任务中的泛化能力。
虽然 CRAG 主要从纠错的角度对 RAG 框架进行改进，并能与各种 RAG 方法无缝结合，但仍需要对外部检索评估器进行微调。未来的研究将集中于如何淘汰这一外部评估器，为 LLMs 配备更强大的检索评估能力，以进一步提升系统的智能性和性能。
LangChain 框架实现了 CRAG 的应用，其中 LangChain 框架被用来处理检索增强生成（RAG）的复杂流程，LangGraph 则是用于从头构建图工作流的工具。在 CRAG 的操作流程中，如果至少有一篇文档的相关性超过预设阈值，那么系统就会继续生成响应。在生成之前，还会执行知识细化步骤，将文档分割为'知识片段'，对每个片段进行评分，并过滤掉不相关的内容。
如果所有文档的相关性都低于阈值，或者评估器无法确定相关性，系统将寻求额外的数据源进行补充。这时，CRAG 会使用网络搜索来增强原有的检索结果，从而提高信息的全面性和准确性。
在实现过程中，一些步骤可以被简化或调整。例如，初次尝试时可以跳过知识细化阶段，如果需要，可以在后续版本中作为独立节点添加回去。当某些文档被判定为不相关时，可以选择通过网络搜索来补充检索，优化查询以获得更相关的结果。
以下是基于 LangChain 和 LangGraph 的关键代码实现，展示了状态管理、检索、评估及决策逻辑。
from langchain.schema import Document
from typing import Dict, Any
# 定义检索节点
def retrieve(state: Dict[str, Any]) -> Dict[str, Any]:
"""
Retrieve documents from the vector store.
Args:
state (dict): The current graph state containing 'question'.
Returns:
dict: New key added to state, 'documents', that contains retrieved documents.
"""
print("---RETRIEVE---")
question = state["question"]
# Retrieval logic here
documents = retriever.get_relevant_documents(question)
return {"documents": documents, "question": question}
# 定义生成节点
def generate(state: Dict[str, Any]) -> Dict[str, Any]:
"""
Generate answer using LLM and context.
Args:
state (dict): The current graph state.
Returns:
dict: New key added to state, 'generation', that contains LLM generation.
"""
print("---GENERATE---")
question = state["question"]
documents = state["documents"]
# RAG generation logic
generation = rag_chain.invoke({"context": documents, "question": question})
return {"documents": documents, : question, : generation}
() -> [, ]:
()
question = state[]
documents = state[]
filtered_docs = []
web_search_needed =
d documents:
score = retrieval_grader.invoke({
: question,
: d.page_content
})
grade = score.binary_score
grade == :
()
filtered_docs.append(d)
:
()
web_search_needed =
{
: filtered_docs,
: question,
: web_search_needed
}
() -> [, ]:
()
question = state[]
documents = state[]
better_question = question_rewriter.invoke({: question})
{: documents, : better_question}
() -> [, ]:
()
question = state[]
documents = state[]
docs = web_search_tool.invoke({: question})
web_results = .join([d[] d docs])
web_doc = Document(page_content=web_results)
documents.append(web_doc)
{: documents, : question}
() -> :
()
web_search = state[]
web_search == :
()
:
()
CRAG 通过这些步骤，显著提升了系统在复杂信息环境下的鲁棒性和灵活性，增强了对检索文档的有效利用。项目开源地址为 https://github.com/HuskyInSalt/CRAG，该项目运行需要 Python 3.11 环境。
CRAG 代表了检索增强生成技术的一个重要演进方向，即从被动检索转向主动纠错。通过引入自我反思与自我评估机制，它有效缓解了传统 RAG 在面对噪声数据时的脆弱性。在实际生产环境中部署 CRAG 时，建议关注评估器的准确率调优以及 Web 搜索的成本控制。未来随着多模态检索技术的发展，CRAG 有望进一步融合图像、视频等多源信息，构建更加全面的知识问答系统。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online