大模型微调技术 LoRA 核心原理与实战面经总结
前言
随着大语言模型（LLM）的参数量不断膨胀，全参数微调（Full Fine-Tuning）对显存和算力的要求变得极高。LoRA (Low-Rank Adaptation) 作为一种参数高效微调（PEFT, Parameter-Efficient Fine-Tuning）方法，通过冻结预训练模型权重并引入低秩分解矩阵，极大地降低了训练成本。本文基于常见面试问题与技术实践，系统梳理 LoRA 的核心概念、理论推导、实现细节及进阶优化方案。
一、LoRA 核心概念
1. 什么是 LoRA？
LoRA 的全称是 Low-Rank Adaptation of Large Language Models。其核心思想是通过低秩分解来模拟参数的改变量，从而以极小的参数量来实现大模型的间接训练。
在标准的 Transformer 架构中，每一层通常包含多个线性变换矩阵（如 Q, K, V, O 投影矩阵）。LoRA 假设权重的更新量具有较低的内蕴秩（Intrinsic Rank），即 $\Delta W$ 可以近似表示为两个低秩矩阵的乘积：$\Delta W = B \times A$，其中 $A \in \mathbb{R}^{d \times r}$，$B \in \mathbb{R}^{k \times d}$，且 $r \ll \min(d, k)$。
2. LoRA 的实现思路
- 旁路结构：在原模型旁边增加一个旁路分支。原模型参数 $W_0$ 保持冻结，不计算梯度。
- 低秩分解：新增矩阵 $A$ 和 $B$，其中 $A$ 负责降维，$B$ 负责升维。前向传播时，输出为 $h = W_0x + BAx$。
- 推理合并：由于 $BAx$ 等价于 $(BA)x$，在推理阶段可以将训练好的 $BA$ 加到 $W_0$ 上，得到新的权重 $W' = W_0 + BA$，从而不引入额外的推理延迟。
- 初始化策略：矩阵 $A$ 通常采用高斯分布初始化，矩阵 $B$ 初始化为全零。这样保证训练开始时旁路贡献为 0，不影响原始模型的输出分布，有利于收敛。
3. LoRA 的特点与优缺点
特点：
- 可插拔性：不同任务的 LoRA 适配器可以独立保存和加载，切换任务时无需重新加载主模型。
- 无推理延迟：权重合并后，推理过程与原模型完全一致。
- 正交性：LoRA 与其他 PEFT 方法（如 Prefix Tuning）正交，可组合使用。
优点：
- 节省存储：仅需保存少量低秩矩阵，相比全量微调节省数十倍空间。
- 显存友好：支持在消费级显卡（如 RTX 4090 24G）上进行微调。
- 训练稳定：实验表明在多数下游任务中效果接近全量微调。
缺点：
- 表达能力受限：对于需要大量参数变化的复杂任务，低秩约束可能限制性能上限。
- 训练时间：虽然参数量少，但由于只更新部分参数，有时需要更多 Epoch 才能达到收敛。
二、训练理论与常见问题解答
1. LoRA 权重是否可以合入原模型？
可以。将训练好的低秩矩阵乘积 $BA$ 与原模型权重相加即可：$W_{new} = W_{original} + BA$。合并后的模型可以直接用于推理，无需加载 LoRA 配置。
2. ChatGLM-6B LoRA 后的权重多大？
具体大小取决于 Rank 和 Target Modules 的选择。例如，在 Rank=8，Target Modules 选择 query_key_value 的情况下，ChatGLM-6B 的 LoRA 权重约为 15MB 左右。相比之下，全量微调需要数 GB 的存储空间。
3. LoRA 微调方法为啥能加速训练？
- 参数量减少：仅更新约 0.1%~1% 的参数，减少了反向传播的计算量。
- 通信开销降低：在多卡分布式训练中，梯度同步的数据量大幅减少。
