LLM Agent 中 RAG 往往限制了模型的参数化智能，使其退化为文本抽取工具。为解决事实性与智能性的矛盾，可采用前置检测（Detection）与后置校准（Calibration）策略。前置检测包括基于自我矛盾的幻觉判断（如 Self-CheckGPT、LM vs LM）及自我拒绝（R-Tuning）。后置处理则利用检索内容修正生成结果。最佳实践是结合高置信度直接回答与低置信度 RAG 增强，通过混合策略在保障准确性的同时保留模型推理能力。
反思来源于对 RAG（Retrieval-Augmented Generation）下模型回答的直观感受。最初我们被 ChatGPT 的能力所震惊，并不是它能背诵知识，而是模型在知识压缩后表现出的'涌现能力'。更具体到 RAG 所属的问答领域，是模型能够精准地基于上文从压缩的参数中召回并整合相应的知识，甚至进行知识外推的能力。通俗点说，它有可能生成我在任何地方都检索不到的答案！
但 RAG 当前的多数使用方法，采用只让模型基于检索到的内容进行回答的方案，其实限制了模型自身对知识压缩形成的智能。大模型似乎变成了文本抽取和总结润色的工具。体验上大模型直接回答的效果就像是学霸答题文采四溢，而 RAG 有时倒像是学渣开卷考试，答得小心翼翼一有不慎还会抄错答案。
既要保证事实性，又要保留模型智能，则需要最大化地使用模型已经内化压缩到参数中的信息，只在需要使用外部知识增强的时候再进行工具调用。以下将详细介绍几种主流方案。
检测模型回答存在幻觉可以通过检索外部知识进行校验，不过考虑生成式模型覆盖问题的广泛性，Self-Contradictory 论文中评估 ChatGPT 生成的回答中 38.5% 的内容无法通过 Wiki 等外部知识进行校验。
因此这里我们先介绍一种完全基于模型自身，不依赖外部知识的幻觉判断方案——自我矛盾。后介绍一种模型直接拒绝回答的方案，和 RLHF 里面的事实性原则类似，这里是基于 SFT 的模型自我拒绝方案。
第一种发现模型幻觉的方案是基于模型多次回答的不一致性来判断模型是否在胡说八道。相似的概念在 Self-Consistency CoT 时就提到过，该论文是使用多路 COT 推理来投票出一个最合理的推理路径，从而提高思考的准确率。这里只不过改变了使用的形式，通过模型多次回答的不一致来判断模型是否出现了幻觉。
主要参考论文包括 SELF-CHECKGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models 和 SELF-CONTRADICTORY HALLUCINATIONS OF LLMS: EVALUATION, DETECTION AND MITIGATION。
对于如何度量模型随机生成的多个回答之间的不一致性，Self-Check 尝试了包括 Bert 相似度计算在内的 5 种方法，其中效果最好的两种分别是传统 NLI（Natural Language Inference）和基于大模型 Prompt 的 NLI。从推理性价比上传统 NLI 有优势，效果上 LLM 更好。
传统 NLI 推理任务，是给定前提（premise）判断假设（hypothesis）是否成立或者矛盾。这里论文就是使用 MNLI 数据训练的 DeBERTa-v3-Large 来判断模型生成的回答 r(hypothesis)，是否和其他 N 个采样生成的回答 (premise) 相矛盾。论文分别尝试了句子级的判断和整个回答粒度的判断，句子级别的效果显著更好。
而基于大模型 Prompt，同样是 NLI 任务的思路，只不过改成了自然语言指令。Context 等同于以上的 Sn，sentence 就是 Ri，大模型推理返回的 Yes/NO 会被转化成 0/1，并计算均值。
另一种思路是通过多模型对话的方式来进行。DeepMind 的 LM vs LM: Detecting Factual Errors via Cross Examination 采用了模型 B 多次反复提问模型 A 的方式来生成多个回答。类似的方式也用于问卷中问题的设计，出题人会用不同的方式把一个问题问好几遍，如果每次回答都不一样，说明做题人对类似问题的回答是不确定的。
第一步模型 A 先生成回答 (claim)。第二步模型 B 会针对 claim，从多个角度生成提问并让模型 A 再次进行回答。第三步模型 B 会基于 A 的原始回答，和对多个问题的回答来判断原始回答的正确性。以上 B 提问 A 回答的步骤，如果 B 判断需要进行补充提问的话，可能会重复多次。
这里涉及到的三个任务都是通过大模型指令来进行的，三个任务分别是：模型 B 基于 A 的 claim 进行提问，模型 B 判断是否继续提问，模型 B 基于 A 的所有回答判断 claim 是否正确。
相比上面 SELF-CHECK 随机解码生成多个答案的方案，从多角度进行提问，个人感觉更有针对性，但两种方法都会有遗漏和误伤。推理成本上 SELF-CHECK 更低，LM vs LM 更高。
除了通过不一致性判断模型出现幻觉，另一种更干脆直接的方案，是让模型在碰到自己不确定的问题时，直接选择拒绝回答，和 RLHF 中的事实性原则是一个思路。但我对这类方案最大的疑惑是拒识能力的泛化性。究竟模型是学到了对于自身 parametric knowledge 置信度较低、混淆度较高的问题进行拒绝回答，还是模型背下来了对某些知识和上文语义空间进行拒绝回答。
所以这里我们绕过这个问题，聊一种中间策略。R-Tuning 提出指令微调可能放大了模型的回答幻觉。因为指令微调的数据集中所有问题都有答案，微调任务就是负责教会模型各种任务范式，以及在不同的任务中如何召回预训练中学习的知识并回答问题。但我们忽略了 SFT 中很多任务涉及到的知识在模型预训练中可能是没接触过的，但我们依旧选择让模型去进行回答。这种预训练和指令微调间的不一致性，可能会进一步放大模型幻觉。
R-Tuning 给出的解决方案是在构建指令微调数据集时，加入模型是否对该答案表示肯定的描述，这样允许模型拒绝自己不确定的问题。分成 2 个步骤：
然后使用以上加入模型不确定性表达的数据集进行指令微调即可。在我们的使用场景中 R-Tuning-R 这种直接拒绝的方案更加合适，毕竟我倾向于指令微调的核心并不是知识注入，而是任务对齐，所以模型只要学习到对于自己不确定的问题选择拒绝回答即可。在论文验证的 MMLU 等数据集上这种拒绝微调方案有一定的领域外的泛化效果，不过这些数据集和我们的使用场景相差很大，具体效果要等测试后才知道了。
除了前置判断，Calibration 方案侧重于让模型先生成，再使用召回内容对模型回答进行修正校准和事实性检查。这通常涉及以下步骤：
这种方法的优势在于保留了模型的创造性，同时利用外部知识纠正事实错误。实现时可以使用 Chain-of-Thought 引导模型先列出观点，再逐一验证。
在实际工程中，单一方案往往难以兼顾效率与准确性。建议采用混合策略：
此外，还可以引入人类反馈机制（RLHF），在系统上线初期收集用户纠错数据，持续优化 Detection 和 Calibration 模块的阈值。
以下是一个简化的 Python 伪代码示例，展示如何使用多轮采样检测一致性：
import random
from typing import List, Dict
def generate_response(model, prompt, n_samples=5):
responses = []
for _ in range(n_samples):
# 设置较高的温度以增加多样性
response = model.generate(prompt, temperature=0.7)
responses.append(response)
return responses
def check_consistency(responses: List[str]) -> bool:
"""
简单的一致性检查：比较不同回答的核心语义
实际应用中应结合 NLI 模型或 Embedding 相似度
"""
if len(responses) < 2:
return True
# 这里仅做演示，实际需调用 NLI 模型或 Embedding 计算
# 例如：计算所有回答两两之间的余弦相似度
avg_similarity = calculate_avg_similarity(responses)
# 设定阈值，低于阈值则判定为幻觉风险高
return avg_similarity > 0.8
def detect_hallucination(model, query: str) -> Dict:
responses = generate_response(model, query)
is_consistent = check_consistency(responses)
if is_consistent:
return {"status": "safe", "answer": responses[0]}
else:
return {"status": "hallucination_risk", : responses}
RAG 技术的核心挑战在于如何在引入外部知识的同时，不牺牲大模型本身的参数化智能。单纯的检索增强容易导致模型退化为提取器，而纯生成模式又面临幻觉风险。
通过前置的 Detection（自我矛盾、自我拒绝）和后置的 Calibration（证据校验、重写），我们可以构建一个更加鲁棒的 Agent 系统。未来的方向在于更细粒度的置信度估计，以及端到端的联合优化，使得模型能够自适应地决定何时信任内部知识，何时调用外部工具。开发者应根据具体业务场景，灵活组合上述方案，在成本、延迟和准确性之间找到最佳平衡点。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online