Qwen3 模型 LoRA 微调实战（使用 LLaMA-Factory）

对于上述格式的数据，dataset_info.json 中的数据描述应为：

"数据集名称":{"file_name":"data.json","columns":{"prompt":"instruction","query":"input","response":"output","system":"system","history":"history"}}

2. ShareGPT

相比 alpaca 格式的数据集，sharegpt 格式支持更多的角色种类，例如 human、gpt、observation、function 等等。它们构成一个对象列表呈现在 conversations 列中。

注意：其中 human 和 observation 必须出现在奇数位置，gpt 和 function 必须出现在偶数位置。

对于上述格式的数据，dataset_info.json 中的数据描述应为：

"数据集名称":{"file_name":"data.json","formatter":"sharegpt","columns":{"messages":"conversations","system":"system","tools":"tools"}}

3. 自定义数据集

我们用于训练的数据也转换成 Alpaca 格式，然后在 data/dataset_info.json 中进行注册。接下来，我们使用一个具体的例子来说明数据集的使用。该数据集是商品文案生成数据集，原始格式如下，很明显，训练目标是输入 content（也就是 prompt），输出 summary（对应 response）。

想将该自定义数据集放到我们的系统中使用，则需要进行如下两步操作：

1. 复制该数据集到 data 目录下
2. 修改 data/dataset_info.json 新加内容完成注册

{"adgen_local":{"file_name":"AdvertiseGen/train.json","columns":{"prompt":"content","response":"summary"}}}

三、LoRA 指令微调

在准备好数据集之后，我们就可以开始准备训练了。这里我们先使用命令行版本来训练，从命令行更容易学习相关的原理。

CUDA_VISIBLE_DEVICES=0 llamafactory-cli train \
--stage sft \
--do_train \
--model_name_or_path <local_model_path> \
--dataset alpaca_gpt4_zh,identity,adgen_local \
--dataset_dir ./data \
--template qwen3 \
--finetuning_type lora \
--output_dir <local_lora_save_path> \
--overwrite_cache \
--overwrite_output_dir \
--cutoff_len 1024 \
--preprocessing_num_workers 16 \
--per_device_train_batch_size 2 \
--per_device_eval_batch_size 1 \
--gradient_accumulation_steps 8 \
--lr_scheduler_type cosine \
--logging_steps 50 \
--warmup_steps 20 \
--save_steps 100 \
--eval_steps 50 \
--evaluation_strategy steps \
--load_best_model_at_end \
--learning_rate 5e-5 \
--num_train_epochs 5.0 \
--max_samples 1000 \
--val_size 0.1 \
--plot_loss \
--fp16

训练完后就可以在设置的 output_dir 下看到如下内容，主要包含 3 部分：

• adapter 开头的就是 LoRA 保存的结果了，后续用于模型推理融合
• training_loss 和 trainer_log 等记录了训练的过程指标
• 其他是训练时各种参数的备份

四、可视化/零代码微调

# 开启可视化操作界面
set CUDA_VISIBLE_DEVICES=0
llamafactory-cli webui

1. 模型下载源

由于 HuggingFace 访问限制，改用 ModelScope 作为模型下载源。

2. 微调方法

根据需要选择，这里选择的是 LORA。

3. Train-数据集

根据需要，可以选择 LlamaFactory 自带的，也可以用自己的数据集。

4. Train-计算类型

根据自己的显卡选。

5. 模型名称

选模型要根据自己显卡档次选，太大可能加载失败。

6. 导出微调过的模型

先创建个文件夹，然后把绝对路径放 Export 部分导出目录，最上边检查点路径选要合并的那一个。

五、可能出现的问题

1. CUDA 未找到

解决方法：在自己创的环境里换跟自己 CUDA 版本匹配的 PyTorch 版本。若官方源下载失败，可尝试更换镜像源。

2. ValueError: Your setup doesn't support bf16/gpu.

这个错误是因为你的 GPU 不支持 bf16（bfloat16）格式。这很常见，大多数消费级 NVIDIA 显卡都不支持 bf16。换个适合的，直接在 UI 界面改。

总结

完成上述步骤后，即可实现模型的本地化微调与部署。