基于 Llama-Factory 微调 Qwen3.5-4B 模型实战指南

解压后，修改 dataset_info.json 文件，将新数据集注册进去。注意字段映射关系，特别是角色标签和内容标签的对应：

"mllm_robot": {
    "file_name": "mllm_robot.json",
    "formatting": "sharegpt",
    "columns": {"messages": "messages", "images": "images"},
    "tags": {"role_tag": "role", "content_tag": "content", "user_tag": "user", "assistant_tag": "assistant"}
},
"mllm_robot_en": {
    "file_name": "mllm_robot_en.json",
    "formatting": "sharegpt",
    "columns": {"messages": "messages", "images": "images"},
    "tags": {"role_tag": "role", "content_tag": "content", "user_tag": "user", "assistant_tag": "assistant"}
}

模型微调实战

编写训练脚本

由于部分体验空间仅支持终端模式，我们需要直接编写 YAML 配置文件。下面是一个针对 Qwen3.5 和 LoRA 微调的标准配置示例：

# 模型参数
model_name_or_path: /home/openmind/Qwen3.5-4B
template: qwen3_5
trust_remote_code: true

# 训练参数
stage: sft
do_train: true
finetuning_type: lora
lora_target: q_proj,k_proj,v_proj,o_proj
dataset: mllm_robot,mllm_robot_en
learning_rate: 1.0e-4
num_train_epochs: 5.0
per_device_train_batch_size: 1
gradient_accumulation_steps: 16
bf16: true

# 输出参数
output_dir: /home/openmind/Qwen3.5-4B/lora/train_Qwen3.5-4B
logging_steps: 10
save_steps: 500
overwrite_output_dir: true

# 硬件与分布式相关
fp16: false
ddp_timeout: 180000

关键参数说明：

• model_name_or_path: 指向本地模型路径，如果是 Hugging Face ID 需确保网络通畅。
• template: 必须匹配模型系列，Qwen3.5 对应 qwen3_5。
• finetuning_type: 这里使用 lora，显存友好；若显存充足也可尝试全量微调。
• bf16: 昇腾 910B 支持 bf16，开启可节省显存并加速训练。
• gradient_accumulation_steps: 梯度累积步数，用于模拟更大的 batch size，避免单卡显存不足。

启动训练

单卡训练

直接使用命令行启动：

CUDA_VISIBLE_DEVICES=0 llamafactory-cli train train_qwen_robot.yaml

多卡训练

如果有多张 NPU 卡，可以先用 npu-smi info 查看设备编号。假设可用设备为 1 和 4，则命令如下：

WANDB_MODE=disabled FORCE_TORCHRUN=1 CUDA_VISIBLE_DEVICES=1,4 llamafactory-cli train ./train_qwen_robot.yaml

注意逗号必须是英文半角符号，否则会导致设备识别失败。

效果对比与验证

训练完成后，我们可以通过 API 接口对比微调前后的模型表现。

1. 加载原始模型权重

CUDA_VISIBLE_DEVICES=1 llamafactory-cli api \
--model_name_or_path /home/openmind/Qwen3.5-4B \
--template qwen3_5 \
--finetuning_type lora

发起请求查看输出：

curl -X POST http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
  "model": "Qwen3.5-4B",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "image_url",
          "image_url": { "url": "data:image/png;base64,'$(base64 -w0 /home/openmind/LlamaFactory/data/images/robotera_1.png)'" }
        },
        {
          "type": "text",
          "text": "请识别并描述图片中的机器人及其特征"
        }
      ]
    }
  ],
  "max_tokens": 512,
  "temperature": 0.1
}'

2. 加载 LoRA 权重

重新拉起服务，指定 adapter 路径：

CUDA_VISIBLE_DEVICES=1 llamafactory-cli api \
--model_name_or_path /home/openmind/Qwen3.5-4B \
--adapter_name_or_path /home/openmind/Qwen3.5-4B/lora/train_Qwen3.5-4B \
--template qwen3_5 \
--finetuning_type lora

再次使用相同的 curl 命令提问，观察回答是否更符合微调后的预期。

常见问题排查

如果在执行 llama-factory 相关命令时提示找不到命令，通常是因为包路径未加入环境变量。可以在终端中临时设置：

export PATH="/home/openmind/.local/bin:$PATH"
export PATH="/usr/local/bin:$PATH"

此外，如果需要图形化界面，可以直接运行 llamafactory-cli webui 启动 Web UI，通过浏览器访问返回的 URL 进行操作。