大语言模型 LoRA 微调实战指南

数据转换脚本

如果拥有 CSV 格式数据，可使用以下 Python 脚本转换为 JSONL：

import csv
import json

with open('data.csv', 'r', encoding='utf-8') as f_in, open('dataset.jsonl', 'w', encoding='utf-8') as f_out:
    reader = csv.DictReader(f_in)
    for row in reader:
        data = {
            "instruction": row['prompt'],
            "input": row.get('context', ''),
            "output": row['response']
        }
        f_out.write(json.dumps(data, ensure_ascii=False) + '\n')

将处理好的数据集上传至 text-generation-webui/training/datasets 目录下。

训练流程

启动 WebUI 后，按以下步骤开启 LoRA 训练：

1. 切换到 Training 页签。
2. 点击 Train LoRA，进入设置页面。
3. Model Name：填写 LoRA 模型的名字，注意名字中不能包含英文点（.）。
4. Data Format：选择 alpaca-format。
5. Dataset：选择刚才上传的数据集文件。
6. 点击 Start LoRA Training 开始训练。
7. 观察进度条，训练完成后显示'Done'。

*注意：如果 WebUI 与服务器断开连接，进度可能不更新。此时可登录服务器命令行查看日志文件 training.log。

参数详解

默认参数通常适用，但针对特定需求可手动调整：

1. Target Modules (目标模块)

针对 Llama 类模型，默认勾选 q_proj 和 v_proj。这主要优化模型的理解能力。增加更多模块（如 k_proj, o_proj）会提升效果但增加显存消耗，可能导致过拟合。

2. Epochs (轮次)

代表训练多少轮。轮次越多，模型学习越深，但也越容易过拟合。建议从 3-5 轮开始测试。

3. LoRA Rank

维度计数，控制权重的更新量。值越大文件越大，控制力越强。

• 简单任务/小数据：4 或 8。
• 复杂任务/大数据：128、256 甚至更高。
• 需匹配基础模型规模，百亿参数模型可设更大值。

4. LoRA Alpha

数值越高 LoRA 影响力越大，默认为 Rank 的两倍。高值增强适应性但有泛化风险；低值保持温和但适应性降低。

5. Learning Rate (学习率)

决定损失函数收敛速度。

• 默认值 3e-4 (0.0003)。
• 范围通常在 1e-6 到 1e-2 之间。
• 平衡策略：高学习率 + 低轮次 = 快但质量低；低学习率 + 高轮次 = 慢但质量好。

6. LR Scheduler (调度算法)

• Linear：线性衰减，随轮次增加学习率降低。
• Cosine：余弦退火，适合需要平滑收敛的场景。
• Constant：常量学习率。

推理验证

训练完成后，需测试效果：

1. 切换到 Model 页面。
2. 点击 Reload 重新加载基础模型。
3. 刷新 LoRA 列表，选择训练出的模型。
4. 点击 Apply LoRAs 应用 LoRA。
5. 在 Parameters 中选择聊天角色。
6. 切换到 Chat 页面进行测试。

对比基础模型与微调后的回答，观察在特定领域的表现差异。

常见问题排查

1. 显存溢出 (OOM)

• 减少 batch_size。
• 启用 --load-in-4bit 加载模型。
• 减小 max_seq_length。

2. 训练不收敛

• 检查学习率是否过大，尝试降低至 1e-4。
• 增加 Epochs 或检查数据质量。

3. 生成结果重复

• 调整 temperature 参数，适当提高随机性。
• 检查 repetition_penalty 设置。

总结

LoRA 微调是大模型落地的关键技术之一。通过合理的参数配置和数据准备，开发者可以在较低成本下获得垂直领域的专用模型。建议在正式部署前进行充分的验证测试，并根据反馈迭代训练参数。