LLaMA-Factory 低成本微调实战指南

启动微调任务

运行训练命令：

python src/train_bash.py \
--stage sft \
--do_train \
--model_name_or_path Qwen/Qwen-7B \
--dataset_dir ./data \
--output_dir ./output \
--overwrite_cache \
--per_device_train_batch_size 4 \
--gradient_accumulation_steps 2 \
--lr_scheduler_type cosine \
--logging_steps 10 \
--save_steps 1000 \
--learning_rate 1e-4 \
--num_train_epochs 3 \
--fp16

监控训练过程

训练开始后，可以通过以下方式监控：

• 查看日志中的 loss 曲线
• 使用 nvidia-smi 观察显存占用
• 检查 output 目录下的 checkpoint

提示：首次训练建议先跑 1 个 epoch 验证流程，完整训练可后续继续

测试微调效果

使用内置的 CLI 测试对话效果：

python src/cli_demo.py \
--model_name_or_path ./output \
--template qwen

成本优化实战技巧

选择合适的模型尺寸

不同参数规模的模型资源消耗对比：

动态调整训练参数

• 降低 per_device_train_batch_size 可减少显存占用
• 增加 gradient_accumulation_steps 保持有效 batch size
• 使用 fp16 混合精度训练提速 30%

善用断点续训

意外中断后可通过以下命令恢复训练：

python src/train_bash.py \
--resume_from_checkpoint ./output/checkpoint-1000

常见问题解决方案

显存不足 (OOM) 错误

典型报错：

CUDA out of memory

解决方法：

1. 减小 batch size
2. 开启 gradient checkpointing
3. 使用更低精度的优化器 (如 adamw_bnb_8bit)

训练不收敛

检查要点：

• 学习率是否过高/过低
• 数据质量是否有问题
• LoRA rank 是否设置过小

模型效果不佳

优化方向：

1. 增加高质量训练数据
2. 调整 LoRA 参数 (rank=16/alpha=32)
3. 尝试全参数微调 (需更多资源)

从实验到生产的进阶建议

完成初步验证后，可以考虑：

1. 模型量化部署：使用 llama.cpp 将模型转为 GGUF 格式
2. API 服务化：基于 FastAPI 封装推理接口
3. 持续训练：接入真实业务数据迭代优化

记得训练完成后及时释放云实例，按需付费模式下停止即停止计费。一个完整的 7B 模型微调实验，总成本通常可以控制在 50 元以内。建议先从小型数据集和 1.8B 模型入手，熟悉流程后再逐步扩大规模。