llamafactory微调qwen3-vl详细流程

Ne0inhk

— 9 min read
llamafactory微调qwen3-vl详细流程

llamafactory微调qwen3-vl详细流程

目标：本文讲详细介绍多模态大模型使用llama-factory进行多模态模型微调（sft）的全部流程，以及微调后合并和工业落地部署方案。具体包括：

  1. 环境安装部署
  2. 数据集准备
  3. 启动微调
  4. 模型合并
  5. 模型部署和请求方式(vllm部署)

示例模型：
qwen2.5-vl-instruct qwen3-vl-instruct

环境安装

llama-factory环境准备

方式1 git直接下载

git clone --depth https://github.com/hiyouga/LLaMA-Factory.git

方式2 下载项目压缩包再解压

在这里插入图片描述

python环境安装

  1. python虚拟环境创建
    • conda create --name llama_env python=3.12 (默认已安装好anaconda或者minianaconda)
    • conda activate llama_env # 进入虚拟环境
  2. 安装依赖包
    • cd LLaMA-Factory-main # 进入项目目录
    • pip install -e “.[torch,metrics]” --no-build-isolation -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple/
在这里插入图片描述
在这里插入图片描述

下载模型

从modelscope或者huggingface下载模型到指定目录。比如qwen3-vl。

  1. 在当前项目目录打开cmd
  2. 输入modelscope download --model Qwen/Qwen3-VL-2B-Instruct --local_dir ./qwen3_vl_model 将模型下载到models目录下。

​

在这里插入图片描述

启动训练（命令行）

在linux系统上，一般直接使用命令行进行训练、合并、部署。

lora微调步骤-sft任务

​ 先使用默认数据集测试微调流程

​ 在LLaMA-Factory-main目录下：

执行 CUDA_VISIBLE_DEVICES=6 llamafactory-cli train examples/train_lora/qwen2_5vl_lora_sft.yaml开始训练画面：

在这里插入图片描述

vim examples/train_lora/qwen2_5vl_lora_sft.yaml

### model model_name_or_path: /data/hcb/LLaMA-Factory-main/qwen3_vl_model # 模型路径 image_max_pixels: 262144 video_max_pixels: 16384 trust_remote_code: true### method stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: all ### dataset dataset: mllm_demo,identity,alpaca_en_demo # video: mllm_video_demo 默认数据集，项目自带 template: qwen3_vl # 这里要改 cutoff_len: 2048 max_samples: 1000 overwrite_cache: true preprocessing_num_workers: 16 dataloader_num_workers: 4### output output_dir: saves/qwen3vl-2b/lora/sft # lora文件保存路径 logging_steps: 10 save_steps: 500 plot_loss: true overwrite_output_dir: true save_only_model: false report_to: none # choices: [none, wandb, tensorboard, swanlab, mlflow]### train per_device_train_batch_size: 1 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 1.0 lr_scheduler_type: cosine warmup_ratio: 0.1 bf16: true ddp_timeout: 180000000 resume_from_checkpoint: null ### eval# val_size: 0.1# per_device_eval_batch_size: 1# eval_strategy: steps# eval_steps: 500

​ 训练完成后lora模型存储在配置的目录中：

​

在这里插入图片描述

合并lora模型

微调完成后，需要合并原模型和lora模型。

  1. 执行合并脚本：llamafactory-cli export examples/merge_lora/qwen2_5vl_lora_sft.yaml

编辑合并脚本：vim examples/merge_lora/llama3_lora_sft.yaml

### Note: DO NOT use quantized model or quantization_bit when merging lora adapters### model model_name_or_path: /data/hcb/LLaMA-Factory-main/qwen3_vl_model # 原模型路径 adapter_name_or_path: saves/qwen3vl-2b/lora/sft # lora路径 template: qwen3_vl # 模型格式 trust_remote_code: true### export export_dir: output/qwen3vl_lora_sft export_size: 5 export_device: cpu # choices: [cpu, auto] export_legacy_format: false

​ 合并后的模型保存在配置的存储路径中。

在这里插入图片描述

训练完成。

私有训练数据准备（重要）

目前使用llama-factoy整个流程基本固化，主要就是构造不同的数据集。前面我们使用了官方提供的数据集进行了训练。现在我们构造自己的私有数据集，还是以文本类sft任务为例。

了解data目录和dataset_info.json文件

制作训练数据集，要先认识data目录以及dataset_info.json文件。LLaMA-Factory-main主目录下有一个data目录用来存放数据集文件以及数据集配置文件(dataset_info.json)。

对于我们前面使用的训练数据dataset: mllm_demo，我们可以在dataset_info.json中找到注册记录，如下图：

在这里插入图片描述

其对应的具体文件就是file_name指向的文件名，即data目录下的mllm_demo.json文件。其格式如下：

在这里插入图片描述

我们可以仿照这个格式构造自己的sft任务的数据集。

详细构造自己的sft数据集

LLama-Factoy支持的多种任务的数据集格式都在：https://github.com/hiyouga/LLaMA-Factory/blob/main/data/README.md

多模态-图像 构造sharegpt格式参考：

在这里插入图片描述
在这里插入图片描述
  1. 将改造好的训练集文件tab_reg_samples.json文件放到LLaMA-Factory-main/data目录下

在dataset_info.json文件中注册tab_reg_samples.json数据集。具体如下：

在这里插入图片描述

LLaMA-Factory-main/data新建图片存放目录table_reg(与数据集中images下的路径一致)。将数据集中用到的图片上传到table_reg目录下。

在这里插入图片描述

我们需要把自己的数据使用脚本改造成上面的json格式。构造了一个根据图片识别其中表格的数据集。提示词中需要添加图像的占位符 然后在images列表中添加图片的具体路径。（可以添加多个图片。）

在这里插入图片描述

开始训练

数据集配置完成后，在examples/train_lora/qwen2_5vl_lora_sft.yaml训练脚本中直接引入数据集。只修改dataset:部分。

项目主目录下执行 vim examples/train_lora/qwen2_5vl_lora_sft.yaml

### model model_name_or_path: /data/hcb/LLaMA-Factory-main/qwen3_vl_model # 模型路径 image_max_pixels: 262144 video_max_pixels: 16384 trust_remote_code: true### method stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: all ### dataset dataset: table_reg # 注册的数据集名称 template: qwen3_vl cutoff_len: 2048 max_samples: 1000 overwrite_cache: true preprocessing_num_workers: 16 dataloader_num_workers: 4### output output_dir: saves/qwen3vl-2b_table/lora/sft # lora文件保存路径 logging_steps: 10 save_steps: 500 plot_loss: true overwrite_output_dir: true save_only_model: false report_to: none # choices: [none, wandb, tensorboard, swanlab, mlflow]### train per_device_train_batch_size: 1 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 1.0 lr_scheduler_type: cosine warmup_ratio: 0.1 bf16: true ddp_timeout: 180000000 resume_from_checkpoint: null ### eval# val_size: 0.1# per_device_eval_batch_size: 1# eval_strategy: steps# eval_steps: 500

修改完成后执行训练：

CUDA_VISIBLE_DEVICES=6 llamafactory-cli train examples/train_lora/qwen2_5vl_lora_sft.yaml

在这里插入图片描述

后续合并步骤完全一样。

其他任务数据构造

ing…

模型部署

llama-factory也支持基本的模型部署，但是很多时候我们需要以接口调用的形式来使用大模型能力，常见的有ollma、vllm、sglang等方式，为了支持产品落地支持高并发，我们一般使用vllm部署模型，基于openai风格进行接口调用。下载详细介绍一下使用vllm部署模型并请求。

vllm安装

在当前虚拟环境中执行：pip install vllm==0.11.0 -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple/

在这里插入图片描述

服务启动命令（openai标准）

直接启动我们上面微调合并后的模型：

# 启动 vLLM OpenAI 兼容 API 服务器# 核心功能：将指定大模型以 OpenAI API 格式暴露服务，支持高并发、低延迟推理exportCUDA_VISIBLE_DEVICES=6# 指定使用哪个gpu python -m vllm.entrypoints.openai.api_server \ --host 0.0.0.0 \# 绑定所有网络接口，允许外部机器访问（仅内网环境建议使用） --port 8003\# API 服务监听端口，客户端通过该端口调用（自定义） --model /data/hcb/LLaMA-Factory-main/output/qwen3vl_lora_sft \# 模型文件本地路径 --served-model-name qwen3_vl \# 对外暴露的模型名称（客户端调用时指定该名称） --trust-remote-code \# 信任模型仓库中的自定义代码（部分模型需要自定义加载逻辑） --dtype float16 \# 模型推理数据类型（float16 平衡性能和精度，适配多数GPU） --gpu-memory-utilization 0.8\# GPU 显存利用率上限（根据实际情况调整） --tp 1\# 张量并行度（1 表示单卡推理，多卡时需调整为显卡数量）# 上面是命令介绍 可以直接用下面这行启动CUDA_VISIBLE_DEVICES=6 python -m vllm.entrypoints.openai.api_server --host 0.0.0.0 --port 8003 --model /data/hcb/LLaMA-Factory-main/output/qwen3vl_lora_sft --served-model-name qwen3_vl --trust-remote-code --dtype float16 --gpu-memory-utilization 0.8

启动成功：

在这里插入图片描述

服务请求

代码请求
""" @version: python3.9 @author: hcb @software: PyCharm @file: multimodal_request.py @time: 2025/11/15 07:20 """import openai import base64 import os from openai import OpenAI defencode_image(image_path):"""将图像文件编码为base64"""withopen(image_path,"rb")as image_file:return base64.b64encode(image_file.read()).decode('utf-8')defmultimodal_chat(image_path=None, text_prompt="描述这张图片"):""" 多模态聊天请求 Args: image_path: 图像文件路径 text_prompt: 文本提示 """ client = OpenAI( api_key="Empty", base_url="http://10.10.185.9:8803/v1/"# 你的vLLM服务器地址和端口)# 构建消息内容 messages =[{"role":"system","content":"你是一个多模态智能助手，可以理解和分析图像内容。"}]# 如果有图像，添加多模态内容if image_path and os.path.exists(image_path): base64_image = encode_image(image_path) user_content =[{"type":"text","text": text_prompt },{"type":"image_url","image_url":{"url":f"data:image/jpeg;base64,{base64_image}"}}]else:# 如果没有图像，只发送文本 user_content = text_prompt messages.append({"role":"user","content": user_content }) payload ={"model":"qwen3_vl",# 你设置的模型名称"messages": messages,"temperature":0.1,"max_tokens":2000}print("请求payload结构:")print(f"- 模型: {payload['model']}")print(f"- 消息数量: {len(payload['messages'])}")if image_path:print(f"- 包含图像: {image_path}")print(f"- 提示词: {text_prompt}")try:# 发送请求 response = client.chat.completions.create(**payload, timeout=30# 多模态请求可能需要更长时间)return response except Exception as e:print(f"请求失败: {e}")returnNoneif __name__ =="__main__":# 直接测试特定图片 image_path =r"C:\Users\15941\Desktop\临时\副业\宠物\狗头舔脚\2.png"# 修改为你的图片路径 prompt ="描述这张图片中有什么"if os.path.exists(image_path):print(f"正在分析图片: {image_path}") res = multimodal_chat(image_path=image_path, text_prompt=prompt)if res and res.choices:print("\n模型回复:")print(res.choices[0].message.content)else:print("请求失败")

结果：

在这里插入图片描述

Read more

Flutter 三方库 aws_cloudwatch 的鸿蒙化适配指南 - 让分布式鸿蒙应用的日志监控与分析入云实战

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net Flutter 三方库 aws_cloudwatch 的鸿蒙化适配指南 - 让分布式鸿蒙应用的日志监控与分析入云实战 在鸿蒙（OpenHarmony）应用进入生产环境后，如何实时监控分布在各地的设备运行状态？传统的本地日志落盘已无法满足现代云原生监控的需求。aws_cloudwatch 做为一款轻量级、开箱即用的 AWS CloudWatch 日志上报方案，为鸿蒙开发者提供了分钟级的数据透传能力。本文将带你深度适配该组件，实现鸿蒙应用日志的一站式上报。 前言 什么是 CloudWatch？它是亚马逊提供的一套监控与日志管理服务。aws_cloudwatch 库封装了复杂的 AWS SignV4 签名和 LogStream 管理逻辑。在 Flutter for OpenHarmony 的场景下，我们不仅要处理好网络权限，更要解决鸿蒙设备在弱网环境下日志堆积与批量重发的工程难题，确保每一个关键 Error 都能在云端看板实时呈现。 一、

By Ne0inhk
复杂SQL性能突围：代价驱动的连接条件下推策略与工程实践

复杂SQL性能突围：代价驱动的连接条件下推策略与工程实践

文章目录 * 引言：当“逻辑清晰”遇上“性能陷阱” * 一、问题根源：高选择性条件为何“鞭长莫及” * 1.1 客户场景还原 * 1.2 业界面临的两大核心难点 * 1.2.1 语义等价性（Equivalence） * 1.2.2 代价评估（Cost） * 二、传统优化器的“无力感” * 三、金仓数据库的破局之道：等价 + 代价的双重驱动 * 3.1 阶段一：等价性判定（Can we push?） * 3.2 阶段二：代价模型评估（Should we push?） * 四、效果验证：从全表扫描到精准过滤

By Ne0inhk
Rust异步编程高级模式：并发控制、超时机制与实战架构

Rust异步编程高级模式：并发控制、超时机制与实战架构

Rust异步编程高级模式：并发控制、超时机制与实战架构 一、异步并发控制：Semaphore、Mutex、RwLock的异步版本 1.1 为什么需要异步同步原语？ 💡在同步编程中，我们使用std::sync::Mutex、std::sync::RwLock、std::sync::Semaphore等同步原语来控制并发访问。这些原语在多线程场景下非常有效，但在异步编程中，它们会导致任务阻塞，影响性能。 异步同步原语通过await关键字暂停任务，而不是阻塞线程，从而提高了CPU利用率。Tokio提供了一系列异步同步原语，如tokio::sync::Mutex、tokio::sync::RwLock、tokio::sync::Semaphore。 1.2 异步Mutex（互斥锁） 异步Mutex的使用方式与标准库的类似，但需要使用await来获取锁。 usetokio::sync::Mutex;usestd::sync::Arc;

By Ne0inhk
无线蜂窝网络：编织世界的无形之网

无线蜂窝网络：编织世界的无形之网

🔥作者简介： 一个平凡而乐于分享的小比特，中南民族大学通信工程专业研究生，研究方向无线联邦学习 🎬擅长领域：驱动开发，嵌入式软件开发，BSP开发 ❄️作者主页：一个平凡而乐于分享的小比特的个人主页 ✨收录专栏：无线通信技术，本专栏介绍无线通信相关技术 欢迎大家点赞 👍 收藏 ⭐ 加关注哦！💖💖 无线蜂窝网络：编织世界的无形之网 无线蜂窝网络是世界通信的基石，它通过“蜂窝”般的小区划分，让几十亿人能够随时随地无线通话、上网。我将从核心原理、工作流程、代际演进以及与Wi-Fi的对比等几个维度，为你展开这幅无线世界的全景图。 一、 什么是蜂窝网络？—— 从一个比喻开始 想象一下，你要在一个巨大的操场上举办一场派对，需要让所有人都能听到音乐。 * 方案A（大广播）： 在操场中央放一个超级大喇叭。 * 问题： 离得近的人震耳欲聋，离得远的人听不清；而且大家不能同时点歌（信道有限）。 * 方案B（蜂窝派对）： 把操场分成许多小格子，每个格子里放一个小音箱。每个音箱只负责覆盖自己的小格子。 * 好处： 每个人都能听清；相邻的格子可以播放不同的音乐（

By Ne0inhk