Diff-eRank：基于有效秩的大模型去噪能力评估新指标

$$ \text{Diff-eRank}(S) = | \text{eRank}(\Sigma_T) - \text{eRank}(\Sigma_0) | $$

其中 $\Sigma_T$ 是模型 $M_T$ 在句子 $S$ 上的表征的协方差矩阵。

进一步，当给定一个数据集 $D$ 及其包含的句子集合，一个未训练的语言模型 $M_0$ 和一个训练完毕的语言模型 $M_T$ 时，数据集 $D$ 上的 Diff-eRank 可以被定义为 $M_0$ 和 $M_T$ 在所有句子上的有效秩的平均值之差。

由此我们可以看出，Diff-eRank 反映了模型表征空间的降维，也可以用于衡量大语言模型去除数据中冗余信息的程度。较高的 Diff-eRank 表明模型的内部表征更加有序和结构化，体现了模型可以有效提取数据中的模式和规律。

Diff-eRank 评估大语言模型的实验结果

研究团队使用 OPT 模型家族在多个数据集上计算 Diff-eRank。由于 Loss 是最常用于观测预训练模型的指标，因此团队采用模型在训练前后交叉熵损失的减小量 (Reduced Loss) 作为对比。

通过在不同类型的数据集（如 Wikipedia、openwebtext2、dolly-15k 和 hh-rlhf）上使用 Diff-eRank 和 Reduced Loss 对 OPT 模型家族进行评估，实验结果发现 Diff-eRank 和 Reduced Loss 都随着模型规模的扩大而上升。这一趋势说明更大规模的模型在信息压缩和冗余消除方面表现得更加出色。这也体现了 Diff-eRank 可以从「去噪」角度为语言模型提供新的评估方法。

为了进一步验证 Diff-eRank 的有效性，作者在基准测试数据集上，引入准确率作为比较指标。实验结果显示，这三个指标在测试集上基本都在模型规模增加时变大。而且与 Loss 相比，Diff-eRank 与准确率的趋势更加一致，说明 Diff-eRank 可以有效地用于评估语言模型。

除了 OPT 之外，作者还用 Cerebras-GPT 和 OpenELM 家族进行实验。实验结果体现 Diff-eRank 在不同模型家族中，都随着模型规模的上升而增加，并与 Reduced Loss 和基准测试准确率趋势相关，体现了 Diff-eRank 对不同模型家族的稳定性。

Diff-eRank 能否扩展到多模态大模型的评估？

Diff-eRank 背后的思想还可以拓展用于多模态大模型的评估。例如，在视觉 - 语言多模态大模型中，我们可以通过借助表征的有效秩分析视觉和语言表征的匹配程度来衡量模型的模态对齐性能。

对于多模态实验，作者选择了两个最有名的开源多模态大模型：LLaVA-1.5 和 MiniGPT4-v2。这两个多模态大模型都使用了一个简单的连接器来对齐视觉编码器与大语言模型。

作者在 detail_23k 和 cc_sbu_align 这两个高质量的多模态指令数据集上进行实验。这些数据集中的每条数据都是由图像、指令和响应组成的三元组。实验中，作者将每个三元组的指令和响应拼接作为文本输入。

文章中的实验包括分析视觉编码器后图像表征的有效秩 ($r_v$)，连接器的表征的有效秩 ($r_c$)，以及大语言模型对单个图像输入 ($r_{v\to t}$)、文本输入 ($r_t$) 和图像 - 文本对输入 ($r_{vt}$) 的表征的有效秩。

为了衡量多模态大模型的「模态对齐」能力，研究团队引入了两个基于 eRank 的不同指标：

1. 图像压缩比：$\frac{r_v - r_c}{r_v}$
2. 图像 - 文本对齐指标：$1 - \frac{|r_{vt} - r_t|}{r_t}$

图像压缩比可以量化图像表征从视觉编码器到连接器的有效秩的减少，评估连接器在图文对齐训练中压缩和提炼视觉信息的效率。

图像 - 文本对齐指标可以评估大语言模型对图像、文本和图像 - 文本对的表征的有效秩之间的接近程度，进而反映不同模态的对齐程度。

下面的表中展示了 LLaVA-1.5 和 MiniGPT-v2 在不同数据集上均有较高的对齐分数，说明它们对齐良好。具体而言，LLaVA-1.5 在「图像 - 文本对齐」方面优于 MiniGPT-v2，表明在视觉和文本模态之间的对齐更紧密，这也与 LLaVA-1.5 在大部分测试集分数优于 MiniGPT-v2 的现象一致。

此外，研究团队还进行了额外的实验，计算了对图像进行顺时针旋转操作后的有效秩。结果表明，所有与图像相关的量在执行旋转后都会上升，这说明多模态模型能感知图像的细微语义变化，尤其是位置信息。图像旋转后，图像压缩比和图像 - 文本对齐分数均下降，表明连接器在压缩视觉信息方面效果变差，以及旋转后的图像与相应文本对齐性变差。

这些基于秩的方法使我们能够深入了解多模态模型如何对齐不同模态的数据，以及模型如何处理和整合不同形式的输入数据。

结论与展望

Diff-eRank 作为一种全新的评估指标，为我们提供了一个独特的理论视角去理解和分析大模型的一种工作原理。Diff-eRank 不仅有助于评估大模型的「数据去噪」能力，还可能为模型压缩（如剪枝、量化、蒸馏等）等技术的发展提供新的视角。比如，Diff-eRank 或许有助于识别模型中哪些部分可以在不显著损失信息的情况下进行压缩。我们期待未来更多的研究者可以进一步拓展 Diff-eRank 的应用。

参考资料：

• 论文标题：Diff-eRank: A Novel Rank-Based Metric for Evaluating Large Language Models
• 论文链接：https://arxiv.org/abs/2401.17139
• 代码链接：https://github.com/waltonfuture/Diff-eRank