基于魔塔社区环境从零微调 Yi 开源大模型实战

该 YAML 文件包含微调的关键参数，主要修改内容如下：

1. 模型路径：将 model_name_or_path 修改为实际下载的模型位置。

   model_name_or_path: ../Yi-1.5-6B-Chat
   

2. 数据集：默认使用 identity 数据集。该数据集用于测试模型的身份认知能力。你可以打开 data/identity.json 查看具体内容。
   • 原数据：当问'你好你是谁'时，模型回答由 author 开发。
   • 自定义：将 {{name}} 替换为你想要的名字，即可微调出专属身份的大模型。
3. 其他参数：根据需求调整 learning_rate, per_device_train_batch_size 等超参数。

保存配置文件后，回到终端 Terminal。

4. 开始微调训练

在 LLaMA-Factory 目录下，输入以下命令启动微调脚本：

llamafactory-cli train examples/train_qlora/yi_lora_sft_bitsandbytes.yaml

程序将显示进度条并开始训练。整个过程大约需要 10 分钟（具体取决于 GPU 实例性能）。当看到训练结束提示时，表示微调完成。

注意：虽然本教程演示的是基础流程，但微调的实际效果受数据质量、超参数设置影响较大。跑出好的结果往往比跑通流程更具挑战性。

5. 推理测试与对比

微调后的模型表现如何？我们需要通过推理测试来验证。

加载微调后模型

参考 examples/inference 下的 llama3_lora_sft.yaml，复制并重命名为 yi_lora_sft.yaml。修改内容指向微调后的输出路径（通常在 output 目录下），并确保模板正确。

在终端运行推理命令：

llamafactory-cli chat examples/inference/yi_lora_sft.yaml

加载完成后，尝试提问：'你好，你是谁？'

此时模型应回答你自定义的名字，表明微调生效。同时，模型应保持通用的对话能力。

对比原始模型

为了直观对比，重新加载未微调的原始模型。复制 llama3.yaml 重命名为 yi_base.yaml，配置如下：

model_name_or_path: ../Yi-1.5-6B-Chat
template: chatml

运行命令：

llamafactory-cli chat examples/inference/yi_base.yaml

再次提问相同问题，观察原始模型的回答。通过对比可以发现，微调显著改变了模型对特定指令（如身份设定）的响应模式。

6. 常见问题与优化建议

在实际操作中，可能会遇到以下问题：

• 显存不足：如果使用的是较小规格的 GPU，建议在配置文件中开启 flash_attention_2 或使用 bitsandbytes 量化方案（如本文所示）。
• 训练中断：云端环境有时会有连接超时限制。若训练中断，可检查日志中的错误信息，必要时增加 max_steps 或减少 per_device_train_batch_size。
• 效果不佳：微调效果高度依赖数据集。identity.json 仅用于演示，若要训练垂直领域模型，请构建高质量的 SFT 数据集（JSONL 格式）。

7. 总结

通过本文的步骤，我们成功利用魔塔社区的免费资源完成了 Yi-1.5-6B 模型的微调全流程。这证明了无需昂贵硬件，普通开发者也能低成本探索大模型技术。掌握这一流程后，你可以进一步尝试不同的基座模型、数据集和微调策略，深入理解大模型的应用边界。

未来，随着工具链的成熟，微调将成为 AI 应用开发的标准环节。希望本文能为你的大模型学习之路提供切实的帮助。