使用 LLaMA-Factory 微调大语言模型实战指南

1. 基础微调配置

LoRA 是一种参数高效的微调技术，只训练少量额外参数。以下命令展示了基本配置结构：

llamafactory-cli train \
  --model_name_or_path <模型路径> \
  --dataset identity \
  --learning_rate 1e-4 \
  --lr_scheduler_type cosine \
  --output_dir ./saves/lora/sft

训练过程中会记录损失曲线，便于监控效果。学习率调度器使用余弦衰减策略。

2. 开启 Unsloth 优化

启用 Unsloth 后，可进一步调整参数以获得更好的显存效率，例如增加 4 位量化和梯度累积：

llamafactory-cli train \
  --quantization_bit 4 \
  --gradient_accumulation_steps 4 \
  --lora_rank 64 \
  --lora_alpha 16 \
  ... # 其他基础参数保持一致

lora_rank 和 lora_alpha 控制适配器的容量和缩放因子，影响微调的稳定性和效果。

3. 权重查看与导出

训练完成后，检查生成的 LoRA 权重文件：

ls -lhS ./saves/lora/sft

为了部署，需要将 LoRA 权重与基础模型合并，生成独立模型文件：

llamafactory-cli export \
  --model_name_or_path <基础模型路径> \
  --adapter_name_or_path ./saves/lora/sft \
  --export_dir ./merged_model

这样即可脱离 LLaMA-Factory 环境，直接使用标准推理引擎加载。

测试与部署

1. 推理测试

使用 vLLM 推理引擎部署模型并提供 OpenAI 兼容 API，方便集成测试：

vllm serve ./merged_model

对比微调前后的回答，可以直观看到模型身份认知的变化。

2. 多轮对话交互

除了 API 测试，交互式对话模式能更全面地验证上下文理解能力：

llamafactory-cli chat --model_name_or_path ./merged_model

3. 导入 Ollama

为了在更多设备上部署，可将模型转换为 GGUF 格式：

1. 下载 llama.cpp：

git clone https://github.com/ggerganov/llama.cpp.git

2. 转换模型（示例）：

python convert-hf-to-gguf.py <merged_model_path> --outfile model.gguf

GGUF 格式具有更好的跨平台兼容性。创建 Modelfile 定义加载配置：

FROM ./model.gguf
SYSTEM "You are a helpful assistant."

3. 导入 Ollama：

ollama create sunmao -f Modelfile

成功导入后，即可通过 Ollama 进行管理和调用。