LLM 大模型入门教程：训练、微调与推理实战指南

LLM 大模型入门教程：训练、微调与推理实战指南 | 极客日志

LLM 大模型入门教程

本教程旨在为大模型初学者提供系统化的学习路径，涵盖从基础环境搭建、模型训练、高效微调、分布式并行技术到推理加速及压缩优化的全流程。内容基于主流开源框架与工业界实践总结，帮助开发者掌握大模型核心技术与落地方法。

LLM 训练

LLM 训练实战

在大模型实践中，训练是核心环节。从预训练（Pre-training）到监督微调（SFT），再到基于人类反馈的强化学习（RLHF），不同阶段对应不同的数据需求与计算资源。以下汇总了常见模型的训练方案，覆盖从 6B 到 65B 参数规模，支持全量微调到高效微调（LoRA, QLoRA, P-Tuning v2）等多种策略。

LLM	预训练/SFT/RLHF…	参数	教程	代码
Alpaca	full fine-tuning	7B	从 0 到 1 复现斯坦福羊驼（Stanford Alpaca 7B）	配套代码
Alpaca(LLaMA)	LoRA	7B~65B	使用 LoRA 技术对 LLaMA 进行微调及推理，二十分钟完成效果比肩斯坦福羊驼	配套代码
BELLE(LLaMA/Bloom)	full fine-tuning	7B	基于 LLaMA-7B/Bloomz-7B1-mt 复现开源中文对话大模型及 GPTQ 量化	N/A
ChatGLM	LoRA	6B	从 0 到 1 基于 ChatGLM-6B 使用 LoRA 进行参数高效微调	配套代码
ChatGLM	full fine-tuning/P-Tuning v2	6B	使用 DeepSpeed/P-Tuning v2 对 ChatGLM-6B 进行微调	配套代码
Vicuna(LLaMA)	full fine-tuning	7B	大模型内卷，Vicuna 训练及推理指南，效果碾压斯坦福羊驼	N/A
OPT	RLHF	0.1B~66B	一键式 RLHF 训练 DeepSpeed Chat（理论篇与实践篇）	配套代码
MiniGPT-4(LLaMA)	full fine-tuning	7B	多模态大模型 MiniGPT-4 入坑指南	N/A
Chinese-LLaMA-Alpaca(LLaMA)	LoRA（预训练 + 微调）	7B	中文 LLaMA&Alpaca 大语言模型词表扩充 + 预训练 + 指令精调	配套代码
LLaMA	QLoRA	7B/65B	高效微调技术 QLoRA 实战，基于 LLaMA-65B 微调仅需 48G 显存	配套代码

LLM 微调技术原理

对于普通开发者而言，全量微调大模型成本高昂且门槛极高。参数高效微调（Parameter-Efficient Fine-Tuning, PEFT）技术的出现，使得在有限资源下适配特定任务成为可能。该技术通过冻结大部分预训练权重，仅训练少量新增参数或调整部分层，大幅降低显存占用与计算开销。

本系列深入解析七大核心技术点：

背景与简介：阐述大模型微调面临的挑战及 PEFT 的基本概念。
BitFit、Prefix Tuning、Prompt Tuning：介绍早期轻量级微调方法及其适用场景。
P-Tuning、P-Tuning v2：探讨连续提示优化技术在序列生成任务中的表现。
Adapter Tuning 及其变体：分析如何在 Transformer 层间插入小型网络模块。
LoRA、AdaLoRA、QLoRA：重点讲解低秩分解技术在主流框架中的应用与优化。
MAM Adapter、UniPELT：探索混合适配器结构与统一微调框架。
最佳实践与总结：综合对比各技术优劣，提供选型建议。

LLM 微调实战

本部分针对 HuggingFace PEFT 框架支持的常用高效微调技术进行实战讲解，共六篇文章，涵盖从环境搭建到具体算法实现的全过程。

教程	代码	框架
大模型参数高效微调技术实战（一）-PEFT 概述及环境搭建	N/A	HuggingFace PEFT
大模型参数高效微调技术实战（二）-Prompt Tuning	配套代码	HuggingFace PEFT
大模型参数高效微调技术实战（三）-P-Tuning	配套代码	HuggingFace PEFT
大模型参数高效微调技术实战（四）-Prefix Tuning / P-Tuning v2	配套代码	HuggingFace PEFT
大模型参数高效微调技术实战（五）-LoRA	配套代码	HuggingFace PEFT
大模型参数高效微调技术实战（六）-IA3	配套代码	HuggingFace PEFT

LLM 分布式训练并行技术

随着 Transformer 及 MOE 架构的发展，模型参数量突破万亿级别，单机单卡已无法满足训练需求。分布式训练通过硬件集群协同工作，将计算任务、训练数据和模型划分至多个节点，是实现超大模型训练的关键。

主要并行策略包括：

概述：分布式训练的基本架构与通信机制。
数据并行：复制模型副本，在不同设备上处理不同数据批次。
流水线并行：将模型层按顺序切分，不同设备负责不同层。
张量并行：在同一层内部对矩阵运算进行切分，减少通信延迟。
序列并行：针对长序列数据的并行优化策略。
多维混合并行：结合上述多种策略应对超大规模模型。
自动并行：利用编译器优化自动寻找最优并行策略。
MOE 并行：专家混合架构下的特殊并行处理方式。
总结：各类并行技术的性能对比与选择指南。

分布式 AI 框架

主流框架为分布式训练提供了底层支持，开发者可根据项目需求选择合适的工具链。

PyTorch
- PyTorch 单机多卡训练
- PyTorch 多机多卡训练
Megatron-LM
- Megatron-LM 单机多卡训练
- Megatron-LM 多机多卡训练
- 基于 Megatron-LM 从 0 到 1 完成 GPT2 模型预训练、模型评估及推理
DeepSpeed
- DeepSpeed 单机多卡训练
- DeepSpeed 多机多卡训练
- 基于 Megatron-DeepSpeed 从 0 到 1 完成 LLaMA 预训练
- 基于 Megatron-DeepSpeed 从 0 到 1 完成 Bloom 预训练

分布式训练网络通信

高效的网络通信是分布式训练的基石，涉及底层原语与硬件加速。

分布式训练网络通讯原语
AI 集群通信软硬件

LLM 推理

模型推理加速

推理阶段关注响应速度与吞吐量，常用引擎与优化技术包括：

浅析推理加速引擎 FasterTransformer
TensorRT-LLM
PageAttention
FlashAttention

模型推理服务化

将模型部署为可被调用的服务是落地的关键步骤，Triton Inference Server 是业界标准框架之一。

模型推理服务化框架 Triton 保姆式教程（一）：快速入门
模型推理服务化框架 Triton 保姆式教程（二）：架构解析
模型推理服务化框架 Triton 保姆式教程（三）：开发实践

LLM 压缩

为了降低部署成本并提升效率，模型压缩技术至关重要。

LLM 量化

训练后量化：SmoothQuant, ZeroQuant, GPTQ, LLM.int8()
量化感知训练：LLM-QAT
量化感知微调：QLoRA, PEQA

LLM 剪枝

结构化剪枝：LLM-Pruner
非结构化剪枝：SparseGPT, LoRAPrune, Wanda

LLM 知识蒸馏

通过教师模型指导学生模型，分为标准 KD 与涌现能力蒸馏（EA-based KD）。

Standard KD：MINILLM, GKD
EA-based KD：
- In-Context Learning distillation
- Chain-of-Thought: MT-COT, Fine-tune-CoT, DISCO, SCOTT, SOCRATIC CoT
- Instruction Following: Lion

低秩分解

低秩分解通过将权重矩阵 $W$ 分解为 $U$ 和 $V$（$W \approx UV$），其中 $k \ll m,n$，从而减少参数与计算量。常与剪枝、量化结合使用，如 ZeroQuant-FP、LoRAPrune。

LLM 算法架构

理解模型架构演进有助于把握技术趋势。

大模型算法演进
ChatGLM / ChatGLM2 大模型解析
Bloom 大模型解析
LLaMA / LLaMA2 大模型解析

LLM 国产化适配

受国际形势影响，AI 算力国产化适配势在必行。本系列针对国产 AI 加速卡进行讲解。

大模型国产化适配 1-华为昇腾 AI 全栈软硬件平台总结
大模型国产化适配 2-基于昇腾 910 使用 ChatGLM-6B 进行模型推理
大模型国产化适配 3-基于昇腾 910 使用 ChatGLM-6B 进行模型训练
大模型国产化适配 4-基于昇腾 910 使用 LLaMA-13B 进行多机多卡训练

LLM 应用开发

构建大模型产品需要向量数据库与编排框架的支持。

云原生向量数据库 Milvus（一）-简述、系统架构及应用场景
云原生向量数据库 Milvus（二）-数据与索引的处理流程、索引类型及 Schema
LangChain 等编排框架集成

LLM 生态相关技术

大模型词表扩充必备工具 SentencePiece
大模型实践总结
百川智能开源大模型 baichuan-7B 技术剖析
百川智能开源大模型 baichuan-13B 技术剖析
ChatGLM 和 ChatGPT 的技术区别在哪里？
现在为什么那么多人以清华大学的 ChatGLM-6B 为基座进行试验？
关于大模型驱动的 AI 智能体 Agent 的一些思考
为什么很多新发布的大模型默认使用 BF16 而不是 FP16？

服务器基础环境安装及常用工具

稳定的运行环境是实验成功的前提。

基础环境安装

英伟达 A800 加速卡常见软件包安装命令
英伟达 H800 加速卡常见软件包安装命令
昇腾 910 加速卡常见软件包安装命令

常用工具

Linux 常见命令大全
Conda 常用命令大全
Poetry 常用命令大全
Docker 常用命令大全
Docker Dockerfile 指令大全
Kubernetes 常用命令大全
集群环境 GPU 管理和监控工具 DCGM 常用命令大全

LLM 大模型入门教程：训练、微调与推理实战指南