大模型理解、推理 Excel，现在变得更加精准了
这就是来自微软的一项最新研究——SPREADSHEETLLM，主打让大模型有条不紊地处理各种电子表格任务。
[图片]
例如在传统的大模型方法中，会直接忽略掉某些列数据。然而，这一列数据其实是与左侧单元格有着较强的语义关系，表示这些值在左侧单元格中的百分比。现在有了 SPREADSHEETLLM，这种有难度的推理任务已经是可以轻松应对了。
再如当 Excel 表格里存在结构稀疏或者有大量空格单元的时候，大模型在识别任务上也会出错，最终导致结果的错误。
[图片]
而 SPREADSHEETLLM 就能让大模型更加精准地'看清'Excel——可以识别并保留表格的关键结构信息，同时去除多余的空单元格和行。
[图片]
问答准确率提高了 22%
在回答这个问题之前，我们先来了解一下传统大模型在处理 Excel 等电子表格任务时存在的问题。
[图片]
首先就是tokens 的限制。众所周知，大部分的大模型在处理任务的时候都存在这方面的限制；而电子表格往往因为存在大量的二维网格和复杂的结构而超出了这个限制。加之传统的电子表格编码方法，如 HTML、XML 由于需要重复使用标签来表示数据结构，也会导致 tokens 的消耗较高。即使是 Markdown 的编码方法可以节省 tokens，但它缺乏明确的单元格地址信息，导致在索引特定单元格位置时容易出错。
其次还存在像结构锚点识别的问题。在没有有效方法来识别电子表格中的结构锚点（如表格边界的行和列）之前，即便是 GPT-4 也难以理解电子表格的布局和结构。
为了解决上述的问题，微软团队首先提出了一个叫做SheetCompressor的编码框架，主要包含三大模块：
- 结构锚点压缩（structural-anchor-based compression）
- 反向索引转换（inverse index translation）
- 数据格式感知聚合（data-format-aware aggregation）
[图片]
结构锚点压缩的目的是识别电子表格中的结构锚点，即在表格边界处的非同质行和列。这一步骤主要是通过识别和提取这些结构锚点，然后移除远离锚点的同质行和列，生成一个精简版的'骨架'电子表格。这种方法有效地减少了需要处理的数据量，同时保留了对理解表格结构至关重要的信息。
[图片]
反向索引转换的目的是提高 tokens 的使用效率，特别是在处理包含大量空单元格和重复值的电子表格的时候。与传统的逐行逐列的序列化方法不同，反向索引转换采用无损的 JSON 格式的反向索引翻译方法。通过创建一个字典，将非空单元格文本作为键，将具有相同文本的地址合并，优化了 tokens 的使用，同时保持了数据的完整性。
而数据格式感知聚合，则是为了简化对数值单元格的理解，因为相邻的数值单元格通常具有相似的数字格式。它先是提取单元格的数字格式字符串和数据类型，然后将具有相同格式或类型的相邻单元格进行聚类。通过这种方法，可以使用统一的格式字符串和数据类型来表示矩形区域，简化了对数值数据分布的理解，减少了大量的 tokens 支出。
在实验结果来看，SheetCompressor 将 tokens 使用量减少了 96%，并且与原始数据上微调的相同模型相比，性能提高了 27%，在表格检测任务上的 F1 分数达到了约 79%。
[图片]
除此之外，微软团队在这项研究中还提出了Chain of Spreadsheet（CoS）的框架。它是用来扩展 SPREADSHEETLLM 的应用范围，特别是在处理电子表格的下游任务的时候。
首先，CoS 需要确定与特定任务查询相关的表格，并确定相关内容的确切边界；这一步确保了只有相关数据在后续分析中被考虑，优化了处理效率和焦点。在确定了相关表格后，下一步是生成对查询的准确响应。CoS 通过将处理过程分解为可管理的部分，有效地处理了复杂的电子表格，从而实现了精确且上下文感知的响应。
[图片]
从结果上来看，CoS 方法显著提高了大模型在问答方面的准确性。例如，与基线 GPT-4 模型相比，CoS 方法的准确度提高了 22%。微调模型在电子表格表格检测任务上的表现也证明了 CoS 的泛化能力，微调后的模型在问答任务上的准确度提高了 6%。
总而言之，大模型现在处理 Excel 等电子表格这事儿，确实是变得更高效了。
