基于 LLaMA-Factory 的大模型 LoRA 微调实战

注意：修改配置后 WebUI 通常会自动刷新，无需重启服务。

开始训练

我们以 Qwen3-1.7B-Base 为例，使用 LoRA 方法进行指令微调。Base 模型未经过指令优化，适合继续预训练或 SFT。

关键参数说明

• 学习率：LoRA 通常在 1e-5 ~ 2e-5 之间，这里设为 5e-5。
• Epochs：样本较少时适当增加 Epoch，但需注意过拟合风险。一般十万级样本 2 个 Epoch 即可收敛。
• Cutoff Len：短问答可设为 1024，默认是 2048。
• Gradient Accumulation：梯度累积设为 4，以模拟更大的 Batch Size。
• LoRA Rank & Alpha：Rank 代表学习广度（设为 8），Alpha 代表缩放系数（设为 256）。过大可能导致过拟合，过小则效果不佳。

执行命令

llamafactory-cli train \
  --stage sft \
  --do_train True \
  --model_name_or_path Qwen/Qwen3-1.7B-Base \
  --preprocessing_num_workers 16 \
  --finetuning_type lora \
  --template qwen3 \
  --flash_attn auto \
  --dataset_dir data \
  --dataset huanhuan \
  --cutoff_len 1024 \
  --learning_rate 5e-05 \
  --num_train_epochs 4.0 \
  --max_samples 100000 \
  --per_device_train_batch_size 2 \
  --gradient_accumulation_steps 4 \
  --lr_scheduler_type cosine \
  --max_grad_norm 1.0 \
  --logging_steps 5 \
  --save_steps 100 \
  --warmup_steps 4 \
  --packing False \
  --enable_thinking True \
  --report_to none \
  --output_dir saves/Qwen3-1.7B-Base/lora/train_2026-01-02-06-40-31 \
  --bf16 True \
  --plot_loss True \
  --trust_remote_code True \
  --ddp_timeout 180000000 \
  --include_num_input_tokens_seen True \
  --optim adamw_torch \
  --adapter_name_or_path saves/Qwen3-1.7B-Base/lora/train_2026-01-02-06-01-20 \
  --lora_rank 8 \
  --lora_alpha 256 \
  --lora_dropout 0 \
  --lora_target all

训练过程中会显示 Loss 曲线。如果显存不足，可尝试减小 batch size 或使用量化加载。训练结束后，Checkpoints 会保存在 output_dir 下，包含 adapter 权重及日志文件。

批量推理与评估

人工测试不够严谨，建议使用自动化指标评估。我们需要安装相关评估库：

pip install jieba rouge-chinese nltk

通过设置 --do_predict 开启预测模式，对比生成结果与标准答案：

llamafactory-cli train \
  --stage sft \
  --model_name_or_path Qwen/Qwen3-1.7B-Base \
  --finetuning_type lora \
  --quantization_method bnb \
  --template qwen3 \
  --dataset_dir data \
  --eval_dataset huanhuan \
  --predict_with_generate True \
  --max_new_tokens 512 \
  --do_predict True \
  --adapter_name_or_path saves/Qwen3-1.7B-Base/lora/train_2026-01-02-06-40-31

指标解读

• BLEU-4：衡量 n-gram 匹配度，值越高越接近参考文本。
• ROUGE-1/2/L：分别衡量词序列、短语序列及最长公共子序列的匹配情况。对于开放问答任务，ROUGE-1 在 8-15 区间属于正常水平，不必追求过高分数，否则可能意味着泛化能力差。
• 性能指标：关注 predict_runtime 和 samples_per_second，评估推理吞吐量。

对比不同 Epoch 的训练结果，通常多轮训练后的语义连贯性会更好。

模型导出与部署

当效果满意后，需要将 LoRA 适配器与基座模型融合，导出完整模型：

1. 在 WebUI 选择 Export 功能。
2. 指定输出目录，如 output/qwen3-1.7b-huanhuan。
3. 等待合并完成，此时目录下会生成标准的 config.json 和 model.safetensors。

为了本地高效部署，可转换为 GGUF 格式并使用 Ollama：

# 转换格式
cd llama.cpp
git clone https://github.com/ggerganov/llama.cpp.git
cd gguf-py
pip install --editable .
cd ..
python convert_hf_to_gguf.py /workspace/LlamaFactory/output/Qwen3-1.7B-huanhuan/

# 部署运行
curl -fsSL https://ollama.com/install.sh | sh
ollama serve
ollama create qwen3-huanhuan -f /workspace/LlamaFactory/output/Qwen3-1.7B-huanhuan/Modelfile
ollama run qwen3-huanhuan

GGUF 格式能有效压缩模型体积，降低内存占用，非常适合个人设备运行。