使用 LLaMA-Factory 微调 Qwen2.5 模型并转换为 GGUF 格式部署
综述由AI生成使用 LLaMA-Factory 对 Qwen2.5-7B-Instruct 进行 LoRA 微调,并通过 llama.cpp 将模型转换为 GGUF 格式的完整流程。内容涵盖环境搭建、数据集配置、微调参数设置、LoRA 权重合并及格式转换命令。重点解决了转换过程中因 transformers 版本不兼容导致的 tokenizer.json 解析错误,提供了具体的修复方案与验证步骤,帮助读者实现本地高效部署。










