本文综述了大型语言模型（LLM）作为裁判在评估与评价中的应用。文章首先分析了传统评估方法如 BLEU、ROUGE 及基于嵌入指标在捕捉细微属性上的局限性。随后详细介绍了 LLM 作为裁判的范式，包括直接评分、成对比较及链式思考等核心机制。内容涵盖了评估的三个关键维度：判断什么（有用性、无害性等）、如何判断（提示工程、微调等）以及应用场景（评估、对齐、推理）。最后讨论了该领域面临的偏见、成本及自我判断等挑战，并展望了结合人类反馈的未来发展方向。
评估与评价一直是人工智能（AI）和自然语言处理（NLP）中的关键挑战。传统方法，无论是基于匹配的还是基于嵌入的，往往难以判断细微的属性，且难以提供令人满意的结果。近期，大型语言模型（LLM）的进展催生了'LLM 作为裁判'的范式，其中 LLM 被用来在各种任务和应用中执行评分、排名或选择。本文提供了关于基于 LLM 的判断与评估的全面综述，旨在为推进这一新兴领域提供深入的概述。
评估与评价一直是机器学习和自然语言处理（NLP）中的重要且具有挑战性的任务，尤其是在对一组候选项的各种属性（例如，质量、相关性和有用性）进行评分和比较时。传统的评价方法依赖于静态指标，如 BLEU 和 ROUGE，通过计算输出与参考文本之间的词汇重叠来衡量质量。尽管这些自动化指标在计算效率上表现良好，并且广泛应用于许多生成任务中，但它们依赖于 n-gram 匹配和基于参考的设计，这显著限制了它们在动态和开放性场景中的适用性。
随着深度学习模型的崛起，许多基于嵌入的评估方法（例如 BERTScore 和 BARTScore）也应运而生。尽管这些基于小型模型的指标从词汇层面转向了嵌入层面的表示，并提供了更大的灵活性，但它们仍然难以捕捉像有用性和无害性这样的细微属性，超越了单纯的相关性。
近期，先进的大型语言模型（LLMs），如 GPT-4 等，在指令跟随、查询理解和响应生成等任务中表现出了惊人的性能。这一进展促使研究人员提出了'LLM 作为裁判'的概念，利用强大的 LLM 来对一组候选项进行评分、排名和选择。LLM 的强大性能结合精心设计的评估管道，为各种评估应用提供了细致入微的判断，显著解决了传统评估方法的局限性，为 NLP 评估设立了新的标准。
除了评估，LLM 作为裁判的概念还被广泛应用于整个 LLM 生命周期中，包括对齐、检索和推理等任务。它赋予 LLM 一系列先进的能力，如自我进化、主动检索和决策，推动了 LLM 从传统模型向智能体转型。然而，随着 LLM 作为裁判的快速发展，诸如判断偏见和脆弱性等挑战也逐渐浮现。因此，对现有技术和未来挑战进行系统的回顾，将对推动基于 LLM 的判断方法的发展具有重要意义。
在本次综述中，我们深入探讨了 LLM 作为裁判的细节，旨在提供一个全面的基于 LLM 的判断概述。我们首先通过讨论其输入和输出格式，给出 LLM 作为裁判的正式定义。接下来，我们提出一个深入且全面的分类法，来解决以下三个关键问题：
我们探讨了 LLM 裁判所评估的具体属性，包括有用性、无害性、可靠性、相关性、可行性和总体质量。这些属性是衡量生成内容是否符合人类价值观和实际需求的核心维度。
我们探讨了 LLM 作为裁判系统的各种调优和提示技术，包括手动标注数据、合成反馈、监督微调、偏好学习、交换操作、规则增强、多代理协作、示范、多轮交互和比较加速。不同的方法适用于不同的资源约束和精度需求。
我们研究了 LLM 作为裁判被应用的场景，包括评估、对齐、检索和推理。在这些场景中，LLM 不仅作为评估者，还作为优化过程的参与者。
此外，我们在后续章节中收集了评估 LLM 作为裁判的现有基准。从多个角度总结现有的评估标准。最后，我们提出了当前面临的挑战和未来研究的有前景方向，包括偏见与脆弱性、动态与复杂判断、自我判断和人类-LLM 协同判断。
近年来，LLM 已成为一个热门话题，并且已经有许多相关的综述。尽管已有几篇综述聚焦于基于 LLM 的自然语言生成（NLG）评估，但本研究旨在提供对 LLM 作为裁判方法的全面综述。如前所述，LLM 作为裁判已经被应用于评估之外的更广泛场景，因此有必要从一个全局的角度对其进行总结和分类。此外，还有一些综述关注 LLM 驱动的应用，如基于 LLM 的数据标注、数据增强和自我修正。然而，目前仍然缺乏一篇专门针对 LLM 作为裁判的系统性和全面性的综述。
为了理解 LLM 作为裁判的价值，首先需要明确传统方法的不足。
早期的自动评估指标主要基于词袋模型或 n-gram 重叠。BLEU（Bilingual Evaluation Understudy）和 ROUGE（Recall-Oriented Understudy for Gisting Evaluation）是最典型的代表。它们计算生成文本与参考文本之间的精确率和召回率。
随着预训练语言模型的发展，研究者开始使用向量空间中的距离来衡量相似度。BERTScore 利用 BERT 模型提取上下文相关的词向量，计算 F1 分数。BARTScore 则基于序列到序列模型的生成概率进行评估。
LLM 作为裁判（LLM-as-a-Judge）的核心思想是利用大语言模型自身的理解能力和推理能力来替代人工评估或传统指标。
给 LLM 一个评分标准（Prompt），让其对生成的内容进行打分。例如：'请根据以下标准对回答进行 1-10 分评分：准确性、完整性、流畅性。'
给定两个候选回答，让 LLM 判断哪一个更好，或者是否存在平局。这种方法通常比直接打分更稳定，因为比较任务比绝对评分任务更容易让模型达成共识。
要求 LLM 在给出评分前先输出推理过程。这有助于提高评分的可解释性，并减少模型因幻觉而产生的错误判断。
指模型回答是否解决了用户的问题。LLM 需要判断回答是否包含必要的信息，逻辑是否清晰。
指回答是否包含仇恨言论、暴力内容或违反道德规范的信息。这是安全对齐的关键指标。
指回答是否真实准确，不编造事实（Hallucination）。LLM 裁判需要具备一定的知识验证能力。
指模型是否严格遵守了用户的约束条件，如字数限制、格式要求或特定语气。
尽管 LLM 作为裁判展现了巨大潜力，但仍面临诸多挑战。
LLM 本身可能存在训练数据带来的偏见，导致评分不公。此外，对抗性攻击可能诱导 LLM 给出错误的评分。
运行大型模型进行评估的成本远高于传统指标，且推理速度较慢，不适合实时大规模评估。
当 LLM 既用于生成又用于评估时，可能出现'自说自话'的现象，即模型倾向于给自己的输出打高分。引入外部基准或人类反馈（Human-in-the-loop）是解决此问题的关键。
现实世界的任务需求是动态变化的，固定的 Prompt 可能无法适应所有场景。自适应评估框架是未来的研究方向。
大型语言模型作为裁判代表了 NLP 评估领域的重要范式转变。它突破了传统指标的局限，能够更全面地评估生成内容的质量和安全性。然而，要使其成为工业界的标准工具，仍需解决偏见、成本和一致性等问题。未来的研究应致力于构建更稳健的评估体系，结合人类反馈与自动化评估，推动 AI 系统向更安全、更可靠的方向发展。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
