LLM Agent：RAG 召回信息密度与质量优化方案
在上一节讨论了召回多样性优化后，多路索引的召回方案可以提供更多的潜在候选内容。但候选越多，如何对这些内容进行筛选和排序就变得更加重要。本章重点讨论召回的信息密度和质量。参考经典搜索和推荐框架，这一章对应排序 + 重排环节。虽然排序中粗排和精排的区分主要是针对低延时的工程优化，这里不再进一步区分，统一算作排序模块。
排序与重排在 RAG 中的异同
让我们先对比下重排和排序模块在经典框架和 RAG 中的异同：
排序模块
- 经典框架：Pointwise 建模，局部单一 item 价值最大化。这里的价值可以是搜索推荐中的内容点击率，或者广告中的 eCPM，价值由后面使用的用户来决定。
- RAG：基本和经典框架相同，不过价值是大模型使用上文多大程度可以回答问题。价值的定义先由背后的大模型给出，再进一步才能触达用户。更具体的定义是，排序模块承担着最大化信息密度的功能，也就是在更少的 TopK 内筛选出尽可能多的高质量内容，并过滤噪声信息。
重排模块
- 经典框架：Listwise 建模，通过对 item 进行排列组合，使得全局价值最大化，进而使得用户多次行为带来的整体体验感更好。这里的整体可以是一个搜索列表页，一屏推荐信息流，也可以是更长的一整个 session 内用户体验的整体指标，以及背后的商业价值。常见的做法是打散，提高连续内容的多样性，以及前后内容的逻辑连贯性，不过打散只是手段，全局价值才是终极目标。
- RAG：概念相似，通过重排优化模型对整体上文的使用效率。优化模型对上文的使用，提升信息连贯性和多样性，最小化信息不一致性和冲突。不过当前大模型对话式的交互方式更难拿到用户体验的反馈信号，想要优化用户体验难度更高。
1. 排序模块实现方案
上一章提到使用 query 改写、多路索引（包括 BM25 离散索引、多种 Embedding 连续索引）进行多路内容召回。这种方案会提供更丰富的内容候选，但也显著增加了上文长度。很多论文都评估过，过长的上文，以及过长上文中更大比例的噪声信息，都会影响模型推理的效果。
因此如何从这些召回内容中排序筛选出更高质量的内容，过滤噪声信息就是排序模块需要做的。考虑不同索引之间对于相似度的计算打分相互不可比，更不可加，因此需要统一的打分维度来对候选内容进行排序。这里提供两个无监督的混合排序打分方案。
1.1 RRF 混排
Reciprocal Rank Fusion (RRF) 是多路召回混合排序较常见的方法。它把所有打分维度都转化成排名，每个文档的最终得分是多路打分的排名之和的倒数。通过排名来解决不同打分之间 scale 的差异性。
公式如下，其中 r(d) 是单一打分维度中的文档排名，K 是常数起到平滑的作用，微软实验后给的取值是 60。
$$ Score(d) = \sum_{i} \frac{1}{k + r_i(d)} $$
以下是微软搜索中使用 RRF 类合并文本检索和向量检索的一个示意图，使用 RRF 分别对文本检索和向量检索的多路召回内容进行混合排序。
1.2 信息熵打分
除了使用排名来对各路召回的内容质量进行归一化，当然也可以使用统一的模型打分来对内容质量进行衡量，比如可以使用 Bert Cross-Encoder 来对所有候选文档来进行打分排序，利用 cross 模型比 embedding 模型更精准的特点来进一步对召回内容进行过滤。
这里想聊聊除了相关性之外的另一个内容质量评估维度 - Information-Entropy。Information-Entropy 是从文本信息熵的角度对内容有效性和质量进行打分筛选，有以下几种不同的信息熵度量方式。
1.2.1 Selective-Context
Selective-Context 使用自信息对内容质量进行评估。熵值越低（不确定性越低），自信息越低的 token 带给语言模型的信息量就越低，例如停用词、同义词等。因此自信息更低的内容本身的价值更低。
不过自信息的计算是 token 粒度的，想要对短语、句子、段落进行计算可以近似采用 token 求和的方式，也就是假设 token 之间是相互独立。但是越大粒度的信息合并，简单求和的自信息误差越大，因为 token 并非真正独立。因此单纯使用内容自信息的计算方式更适合短语粒度的上文内容压缩，似乎不完全适合对 RAG 召回的段落内容进行打分。
