从零开始微调大模型：基于 LLaMA-Factory 的实战指南

该文件包含微调的关键参数。打开文件，修改第一行 model_name_or_path 为你下载的模型路径（不要带括号）：

### model
model_name_or_path: ../Yi-1.5-6B-Chat

其他关键参数建议如下配置：

### dataset
dataset: identity

### finetuning
finetuning_type: lora
lora_target: all
output_dir: output/yi-lora
per_device_train_batch_size: 4
gradient_accumulation_steps: 4
learning_rate: 1.0e-4
num_train_epochs: 3.0
lr_scheduler_type: cosine
warmup_ratio: 0.1
fp16: true

关于数据集： 默认使用 identity 数据集，这是一个自我认知数据集。当你问模型'你好你是谁'时，它会回答预设的身份信息。如果你想微调一个专属模型，可以修改 data/identity.json 文件，将 {{name}} 字段替换为你的名字。

4. 开始微调训练

回到终端 Terminal，确保当前目录在 LLaMA-Factory 目录下，输入以下命令启动训练脚本：

llamafactory-cli train examples/train_qlora/yi_lora_sft_bitsandbytes.yaml

看到进度条滚动即表示开始微调。运行过程大约需要 10 分钟（取决于 GPU 性能）。当界面显示训练结束标志时，微调过程完成。

常见问题提示：

• 显存不足： 如果遇到 OOM (Out Of Memory) 错误，请尝试减小 per_device_train_batch_size 或开启 bf16 支持。
• 训练慢： 免费 GPU 资源可能有限，若速度过慢可考虑调整 gradient_accumulation_steps。

5. 推理测试与对比

微调后的模型有何变化？我们需要加载微调后的模型进行推理测试。

加载微调模型

参考 examples/inference 下的 llama3_lora_sft.yaml，复制一份并重命名为 yi_lora_sft.yaml。修改内容如下：

model_name_or_path: ../Yi-1.5-6B-Chat
adapter_name_or_path: output/yi-lora/checkpoint-xxx
template: chatml
infer_backend: vllm

注意：adapter_name_or_path 需指向实际生成的 checkpoint 路径。

回到终端运行推理命令：

llamafactory-cli chat examples/inference/yi_lora_sft.yaml

等待模型加载完成后，即可开始对话。你会发现模型的自我身份认知已更改为数据集设定的内容，同时保持了通用对话能力。

对比原始模型

为了直观对比，重新配置推理文件 yi.yaml，不加载 Adapter：

model_name_or_path: ../Yi-1.5-6B-Chat
template: chatml

运行命令：

llamafactory-cli chat examples/inference/yi.yaml

提问同样的问题，观察原始模型的回答。通过对比，你可以清晰地看到微调对模型行为的影响。

6. 总结

通过上述步骤，你已完成了一个简单的微调全流程。这包括环境搭建、模型获取、配置修改、训练执行及推理验证。掌握这一流程是深入大模型应用开发的基础。后续可以尝试更换数据集以适配特定领域，或探索更多高级微调技术如 P-Tuning、DPO 等。