基于魔搭社区环境从零开始微调 Yi 开源大模型

参数说明：

• model_name_or_path: 指向已下载的模型路径。
• finetuning_type: 设置为 lora 表示使用 LoRA 高效微调。
• dataset: 默认使用 identity 数据集，用于测试模型身份认知能力。
• per_device_train_batch_size: 单设备训练批次大小，显存不足时可减小。
• gradient_accumulation_steps: 梯度累积步数，用于模拟更大 batch size。
• learning_rate: 学习率，LoRA 微调通常较小。
• fp16: 开启半精度计算以节省显存。

若需自定义模型身份，可编辑 data/identity.json，将 {{name}} 替换为你希望模型自称的名字。

4. 开始微调训练

确保当前目录为 LLaMA-Factory，执行训练脚本：

llamafactory-cli train examples/train_qlora/yi_lora_sft_bitsandbytes.yaml

观察终端输出，当看到 Loss 下降且进度条完成时，微调结束。此过程大约需要 10 分钟（取决于 GPU 性能）。

5. 推理测试验证

微调后需验证效果。复制 examples/inference/llama3_lora_sft.yaml 为 yi_lora_sft.yaml，修改内容如下：

model_name_or_path: ../saves/yi-lora/checkpoint-final
adapter_name_or_path: ../saves/yi-lora
template: chatml
finetuning_type: lora

运行推理命令：

llamafactory-cli chat examples/inference/yi_lora_sft.yaml

输入问题'你好你是谁'，观察模型回答是否变为自定义的身份信息，同时保持通用对话能力。

对比原始模型（不加载 adapter），可明显看出微调后的差异。

6. 模型合并与部署建议

微调生成的 LoRA 权重是独立的适配器文件，实际部署时常需将其合并到基座模型中以便直接加载。

合并模型

使用以下命令合并权重：

llamafactory-cli export \
    --model_name_or_path ../Yi-1.5-6B-Chat \
    --adapter_name_or_path ../saves/yi-lora \
    --template chatml \
    --export_dir ./merged_model \
    --export_size 2 \
    --export_legacy_format false

合并后的模型位于 ./merged_model 目录，可直接用于生产环境部署。

常见问题排查

1. 显存溢出 (OOM)：尝试减小 per_device_train_batch_size 至 1，或启用 bf16 替代 fp16。
2. 下载速度慢：优先使用 ModelScope 镜像源，国内网络环境下速度较快。
3. 训练中断：检查日志中的错误堆栈，常见原因为数据格式不匹配或路径错误。

7. 总结

本文完整展示了从环境搭建、模型下载、配置编写、训练执行到推理验证的大模型微调流程。通过 LLaMA-Factory 框架，开发者可以低成本地实现垂直领域模型的定制化训练。掌握此流程后，可进一步探索更多数据集和超参数优化，构建适合特定业务场景的智能助手。

后续可关注模型量化、多卡分布式训练等进阶主题，以应对更大规模模型的微调需求。