LLaMA Factory 微调 Llama3 模型实战指南

在 dataset_info.json 中，数据集描述应配置为：

"数据集名称": {
  "file_name": "data.json",
  "columns": {
    "prompt": "instruction",
    "query": "input",
    "response": "output",
    "system": "system",
    "history": "history"
  }
}

下载示例数据

可从官方获取示例数据进行测试：

%cd LLaMA-Factory
!wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama_factory/data.zip
!mv data rawdata && unzip data.zip -d data

模型微调

除了命令行，还可以启动 Web UI 进行微调推理。

启动 Web UI

设置环境变量并使用 CLI 启动：

export USE_MODELSCOPE_HUB=1 && llamafactory-cli webui

其中 USE_MODELSCOPE_HUB=1 表示模型来源为 ModelScope。

配置训练参数

进入 Web 界面后：

1. 选择上述下载的 train.json 作为数据集，点击「预览数据集」确认数据格式。
2. 设置学习率为 1e-4，梯度累积步数为 2，这有利于模型拟合。其他参数可根据显存情况按需调整。
3. 将输出目录修改为 train_llama3，训练后的 LoRA 权重将保存于此。
4. 点击「预览命令」可展示所有已配置的参数，确认无误后点击「开始」启动模型微调。

模型评估与对话

微调完成后，可进行评估和对话测试：

1. 选择「Evaluate&Predict」栏，在数据集下拉列表中选择「eval」（验证集）评估模型效果。
2. 点击开始进行评估，等待结果生成。
3. 选择「Chat」栏，确保适配器路径指向 train_llama3，点击「加载模型」即可在 Web UI 中和微调后的模型进行对话。

命令行推理示例

微调完成后，也可使用命令行直接加载 LoRA 权重进行推理：

llamafactory-cli train \
  --stage sft \
  --do_predict \
  --model_name_or_path meta-llama/Llama-3-8B-Instruct \
  --adapter_name_or_path ./train_llama3 \
  --dataset alpaca_demo \
  --template llama3 \
  --finetuning_type lora \
  --output_dir ./infer_output

常见问题与建议

• 显存不足：如果显存不足，可尝试减小 per_device_train_batch_size 或使用 fp16 / bf16 混合精度训练。
• 过拟合：若训练集过小，建议增加正则化项或减少训练轮数（num_train_epochs）。
• 数据质量：微调效果高度依赖数据质量，请确保指令遵循清晰，避免噪声数据。

通过以上步骤，即可完成基于 LLaMA Factory 的 Llama3 模型微调工作。