Llama 开源家族演进：从 Llama-1 到 Llama-3 技术解析

每个版本的 Llama 由于其隐藏层的大小、层数的不同，均有不同的变体。

Llama-1 系列

Llama-1 模型架构，详见 MODEL_CARD： https://github.com/meta-llama/llama/blob/main/MODEL_CARD.md

为了更好地编码数据，Llama-1 使用 BPE [10] 算法进行分词，具体由 sentencepiece 进行实现。值得注意的是，Llama-1 将所有数字分解为单独的数字，并对未知的 UTF-8 字符回退到字节进行分解。词表大小为 32k。

Llama-2 系列

Llama-2 模型架构，详见 MODEL_CARD。

Llama-2 使用了和 Llama-1 相同的模型架构以及 tokenizer。与 Llama-1 不同的是，Llama-2 将上下文长长度扩展到了 4k，并且 34B 和 70B 参数量版本使用了 GQA。

Llama-3 系列

Llama-3 模型架构，详见 MODEL_CARD： https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md

与 Llama 2 相比，Llama-3 将 tokenizer 由 sentencepiece 换成了 tiktoken，这与 GPT4 保持一致。同时，词表大小由 32k 扩展到了 128k。另外，为了提高模型效率，Llama-3 8B 和 70B 都采用了 GQA。同时上下文长度也扩展到了 8k。

训练数据

本节将对每个版本的训练数据进行简要介绍，包括数据来源、规模和处理方式。

Llama-1 系列

Llama-1 使用了海量无标注数据进行自监督学习，这些预训练数据由多个来源混合而成，且都是公开的数据。各个来源的数据量和采样比例见下表。

• 英语 CommonCrawl：Llama-1 预处理了 2017 年至 2020 年间的五个 CommonCrawl 数据集。该过程在行级别去重，使用 fastText 线性分类器进行语言识别以去除非英语页面，并使用 n-gram 语言模型过滤低质量内容。
• C4：在探索性实验中，Llama-1 观察到使用多样化的预处理 CommonCrawl 数据集可以提升性能。因此，Llama-1 的数据中包括了公开可获得的 C4 数据集。
• Github：Llama-1 使用 Google BigQuery 上可公开获取的 GitHub 数据集。Llama-1 仅保留在 Apache、BSD 和 MIT 许可下分发的项目。
• 维基百科：Llama-1 添加了 2022 年 6 月至 8 月期间的维基百科数据，涵盖使用拉丁或西里尔文字的 20 种语言。
• Gutenberg 和 Books3：Llama-1 在训练数据集中包括了两个书籍语料库：Gutenberg 项目和 ThePile 的 Books3 部分。
• ArXiv：Llama-1 处理 ArXiv 的 Latex 文件，以增加科学数据到 Llama-1 的数据集。
• Stack Exchange：Llama-1 包括了 Stack Exchange 的数据转储，这是一个涵盖从计算机科学到化学等多种领域的高质量问题和答案的网站。

经过上述处理，Llama-1 的整个训练数据集包含大约 1.4T token。对于 Llama-1 的大部分训练数据，每个 token 在训练期间只使用一次，但维基百科和 Books 的数据进行了大约两个 epoch 的训练。

Llama-2

Llama-2 预训练使用了来自公开可用源的 2T 个数据 token。Llama-2-Chat 还在为此项目创建的 27,540 个提示 - 响应对上进行了额外的微调。为了实现 AI 对齐，使用了包含 1,418,091 个 Meta 示例和七个较小数据集的组合的人类反馈强化学习（RLHF）。

在预训练过程中，Llama-2 对数据的安全性进行了全面考量。通过对预训练数据进行分析，Llama-2 能够增加透明度，并发现潜在的问题根源，如潜在的偏见。Llama-2 采取了一系列措施，包括遵循 Meta 公司的隐私和法律审查流程，排除已知含有大量个人信息的网站的数据。

Llama 2 的预训练主要集中在英语数据上，尽管实验观察表明模型在其他语言方面已有一定的熟练度，但由于非英语语言的预训练数据量有限，其熟练度受到限制。因此，该模型在非英语语言中的性能仍然脆弱，应谨慎使用。

当前 Llama-3 不但扩充了词表大小而且增加了多语言的训练语料。从而完成了在 Llama2 在技术报告的承诺，而且在当前公布出来的多语言任务中获得了大幅度提升的性能。

Llama-3 系列

为了更好训练 Llama-3，研究人员精心设计了预训练语料库，这些不仅关注数量，还特别强调了质量。LLAMA-3 其训练数据量大幅增加，从 LLAMA-2 的 2T Tokens 扩展到了 15T Tokens，增长了约 8 倍。其中，代码数据扩充了 4 倍，显著提升了模型在代码能力和逻辑推理能力方面的表现。

LLAMA-3 提供了三种规模的模型版本：小型模型具有 8B 参数，其性能略优于 Mistral 7B 和 Gemma 7B；中型模型则拥有 70B 参数，其性能介于 ChatGPT 3.5 和 GPT 4 之间；大型模型规模达到 400B，目前仍在训练中，旨在成为一个多模态、多语言版本的模型，预期性能应与 GPT 4 或 GPT 4V 相当。

值得注意的是，LLAMA-3 并没有采用 MOE（Mixture of Experts）结构，这种结构主要用于降低训练和推理成本，但在性能上通常无法与同规模的密集型（Dense）模型相比。随着模型规模的扩大，如何降低推理成本将成为一个需要关注的问题。

此外，LLAMA-3 的训练数据包括了大量的代码 token 和超过 5% 的非英语 token，来源于 30 多种语言。这不仅使得模型在处理英语内容时更加高效，也显著提升了其多语言处理能力，这表明 LLAMA-3 在全球多语言环境中的适应性和应用潜力。

为确保数据质量，Meta 开发了一系列数据过滤 pipeline，包括启发式过滤器、NSFW 过滤器、语义重复数据删除技术及用于预测数据质量的文本分类器。这些工具的有效性得益于先前版本 Llama 的表现，特别是在识别高质量数据方面。

此外，Meta 通过大量实验评估了在最终预训练数据集中混合不同来源数据的最佳策略，确保 Llama-3 能在多种场景下展现卓越性能，如日常琐事、STEM 领域、编程和历史知识等。

训练方法

本节将对每个版本的训练方法进行简要介绍，包括预训练、有监督微调和基于人类反馈的强化学习。

Llama-1 系列

Llama-1 模型是一个基础的自监督学习模型，它没有经过任何形式的特定任务微调。自监督学习是一种机器学习技术，其中模型通过分析大量未标记的数据来预测其输入数据的某些部分。这种方法允许模型在没有人类标注的数据的情况下自动学习数据的内在结构和复杂性。

Llama-1 在公布的技术报告中详细描述了使用 AdamW 优化器的机器学习模型的具体训练配置。AdamW 是对 Adam 优化器的改进，可以更有效地处理权重衰减，从而提高训练的稳定性。β1 和 β2 参数的选择影响训练过程的收敛行为和稳定性。Llama-1 描述的余弦学习率调度是一种有效的技术，用于在训练期间调整学习率，通过逐渐减少学习率，在某些情况下可以导致更好的收敛。实施 0.1 的权重衰减和 1.0 的梯度裁剪是预防过拟合和确保数值稳定性的标准做法。使用预热步骤是一种策略性方法，旨在训练过程初期稳定训练动态。

Llama-1 也展示了一系列针对大规模语言模型训练进行的优化措施。通过使用 xformers 库 [12] 中的 causal multi-head attention 的高效实现，减少了内存占用和计算时间。此外，采用手动实现反向传播函数代替依赖自动微分系统，以及利用检查点技术保存计算成本高的激活，都是提高训练速度和减少资源消耗的有效策略。

Llama-2 系列

Llama-2 模型是在 Llama-1 的基础上进一步发展的，而 Llama-2-Chat 模型则是基于 Llama-2 进行微调的版本。这两个模型保持了固定的 4k 上下文长度。

在 Llama-2 和 Llama-2-Chat 的微调中，采用了自回归损失函数，这是一种在生成模型中常见的方法，模型预测下一个 token 时会考虑到之前的所有 token。在训练过程中，用户输入提示的 token 损失被清零，这意味着模型被训练以忽略这些特定的 token，从而更专注于生成回复。

Llama-2-Chat 的训练过程起始于利用公开数据对 Llama-2 进行预训练。在此之后，通过有监督微调创建了 Llama-2-Chat 的初始版本。随后，使用基于人类反馈的强化学习（RLHF）方法来迭代地改进模型，具体包括拒绝采样（Rejection Sampling）和近端策略优化（Proximal Policy Optimization, PPO）。在 RLHF 阶段，人类偏好数据也在并行迭代，以保持奖励模型的更新。

Llama-3 系列

与 Llama-2 类似，Llama-3 系列也有两个模型——预训练模型 Llama-3 和微调后的模型 Llama-3-Instruct。

在预训练阶段，为了有效地利用预训练数据，Llama-3 投入了大量精力来扩大预训练。具体而言，通过为下游基准测试制定一系列扩展法则（scaling laws），使得在训练之前就能预测出模型在关键任务上的性能，进而选择最佳的数据组合。

在这一过程中，Llama-3 对扩展法则有了一些新的观察。例如，根据 DeepMind 团队提出的 Chinchilla [11] 扩展法则，8B 模型的最优训练数据量约为 200B token，但实验发现，即使训练了两个数量级的数据后，模型性能仍在继续提高。在多达 15T token 上进行训练后，8B 和 70B 参数的模型都继续以对数线性的方式提升性能。

为了训练最大的 Llama-3 模型，Meta 结合了三种并行策略：数据并行、模型并行和流水并行。当同时在 16K GPU 上进行训练时，最高效的策略实现了每个 GPU 超过 400 TFLOPS 的计算利用率。最后，模型在两个定制的 24K GPU 集群上进行了训练。

为了最大限度地延长 GPU 的正常运行时间，Meta 开发了一个先进的新训练堆栈，可以自动检测、处理和维护错误。另外还大大提高了硬件可靠性和无声数据损坏的检测机制，并开发了新的可扩展存储系统，减少了检查点和回滚的开销。这些改进使总的有效训练时间超过 95%。综合起来，这些改进使 Llama-3 的训练效率比 Llama-2 提高了约三倍。

在微调阶段，Meta 对模型的微调方法进行了重大创新，结合了有监督微调（Supervised Fine-Tuning, SFT）、拒绝采样、近似策略优化（Proximal Policy Optimization, PPO）和直接策略优化（Direct Policy Optimization, DPO）。这种综合方法优化了模型在执行复杂的推理和编码任务时的表现。特别是通过偏好排序的训练，Llama-3 在处理复杂的逻辑推理问题时能更准确地选择最合适的答案，这对于提高 AI 在实际应用中的可用性和可靠性至关重要。

效果对比

本节将对比不同版本在众多基准测试中的效果差异。

Llama-2 vs Llama-1

Meta 官方数据显示，Llama-2 在众多基准测试中都优于 Llama-1 和其他开源语言模型。

Llama-3 vs Llama-2

Meta 官方数据显示，在各自参数规模上，Llama-3 8B 和 70B 版本都取得了不错的成绩。8B 模型在众多基准测试中均胜过 Gemma 7B 和 Mistral 7B Instruct，而 70B 模型超越了闭源模型 Claude 3 Sonnet，对比谷歌的 Gemini Pro 1.5 性能也是相当。

同时，在 Llama-3 的开发过程中，Meta 还开发了一个包含 1800 个提示的高质量人类评估集。评测结果显示，Llama 3 不仅大幅超越 Llama 2，也战胜了 Claude 3 Sonnet、Mistral Medium 和 GPT-3.5 这些知名模型。

Llama-3 之所以能够取得如此出色的成绩，离不开它预训练模型的优异性能。在众多基准测试中，8B 模型超越了 Mistral 7B 和 Gemma 7B，70B 模型则战胜了 Gemini Pro 1.0 和 Mixtral 8x22B。

另外，Meta 表示，最大的 Llama-3 仍在训练中，其参数超过 400B，并在多项基准测试中取得了出色的成绩。一旦完成训练，Meta 将发表一篇详细的研究论文。

值得注意的是，根据英伟达科学家 Jim Fan 的整理，Llama3 400B 基本逼近 Claude-3-Opus 和 GPT-4-turbo，这将意味着开源社区即将迎来 GPT-4 级大模型。

社区影响

本节将简要介绍 Llama 模型对开源社区的影响。

开放源代码模型的力量

自 Meta 发布 Llama 模型以来，它对全球 AI 社区产生了深远的影响。作为一个开源的大语言模型（LLM），Llama 不仅提供了一个强大的技术基础，还推动了全球范围内对 AI 技术的广泛采用和创新。

Llama 模型的开源策略被视为 LLM 时代的'安卓'，这意味着它提供了一个模块化和可自定义的平台，使研究人员和开发者能够根据自己的需要调整和优化模型。这种开放性极大地降低了进入门槛，使得从小型创业公司到大型企业都能够利用这一技术。四月十九日的 Llama 3 的发布，一日的下载量已经突破了 1.14k，两个 8B 的模型位列 trending 第一。

对全球 AI 研发的影响

在 OpenAI 转向更封闭的商业模式后，Llama 的发布为全球进行 AI 项目研发的团队和个人提供了一种可靠的选择。这种开源模型确保了用户不必完全依赖单一的商业 API，从而增加了企业的运营安全感和自由度，尤其是在数据安全和成本控制方面。

技术进步和社区创新

技术上，Llama 模型已经展示了与 GPT 相媲美的性能，这证明了开源社区在推动前沿技术方面的能力。此外，社区通过对模型的不断优化和调整，在不同的垂直领域中开发出适用的解决方案，类似于 Stable Diffusion 和 Midjourney 等社区驱动的大模型。

生态系统和多样性

Llama 的应用已经扩展到多种平台和设备，包括移动和边缘设备。这种多样化的应用不仅推动了技术的普及，也加速了新应用的创新。例如，云平台如 AWS 和 Google Cloud 的积极参与，证明了 Llama 模型的广泛适用性和强大功能。

Llama 社区的未来展望

随着 Llama 模型的持续发展和优化，Meta 强调了对多模态 AI、安全性和责任以及社区支持的持续关注。这些方向不仅符合当前 AI 发展的趋势，也为 Llama 社区的未来提供了明确的路线图。

总结

总之，Llama 模型的发布不仅证明了开源模型在全球 AI 领域的重要性，也为 AI 的未来发展方向提供了新的视角和动力。通过持续的技术进步和社区驱动的创新，Llama 有望继续推动全球 AI 技术的广泛应用和发展。