Qwen3.5-4B 微调实战：基于 LLaMA-Factory 构建医疗 AI 助手

LLaMA-Factory 要求的数据格式是这样的：

[
  {
    "instruction": "你是一个专业的医疗助手，请根据患者描述给出建议。",
    "input": "我最近总是头痛，尤其是下午的时候，已经持续一周了。",
    "output": "持续性头痛需要关注。建议您先排除以下几个常见原因：1）睡眠质量，2）用眼过度，3）颈椎问题。如果休息后仍不缓解，建议到医院神经内科就诊，做个头部 CT 检查。"
  },
  {
    "instruction": "你是一个专业的医疗助手，请根据患者描述给出建议。",
    "input": "孩子 3 岁，发烧 38.5 度，要不要去医院？",
    "output": "38.5 度属于中度发热。可以先在家观察处理：1）物理降温，温水擦拭腋下、腹股沟；2）保持室内通风；3）多喝水。如果体温超过 39 度、持续超过 3 天、或出现精神萎靡、抽搐等情况，需要立即就医。"
  }
]

把处理好的数据放到 data/ 目录下，然后在 data/dataset_info.json 里注册：

{
  "medical_qa": {
    "file_name": "medical_qa.json",
    "columns": {
      "prompt": "instruction",
      "query": "input",
      "response": "output"
    }
  }
}

开始微调

配置文件是整个流程的核心。在 examples/train_lora/ 下创建一个 qwen3.5_medical_lora.yaml：

### 模型配置 ###
model_name_or_path: ./models/Qwen3.5-4B
trust_remote_code: true

### 微调方法 ###
stage: sft
do_train: true
finetuning_type: lora
lora_rank: 64
lora_alpha: 128
lora_target: all

### 数据集配置 ###
dataset: medical_qa
template: qwen3
cutoff_len: 2048
preprocessing_num_workers: 8

### 训练参数 ###
output_dir: ./output/qwen3.5_medical_lora
per_device_train_batch_size: 2
gradient_accumulation_steps: 8
learning_rate: 1.0e-4
num_train_epochs: 3.0
lr_scheduler_type: cosine
warmup_ratio: 0.1
logging_steps: 10
save_steps: 500

### 显存优化 ###
bf16: true
gradient_checkpointing: true

参数解读：

• lora_rank: 64 —— LoRA 秩，越大表达能力越强，但显存占用也越大
• lora_target: all —— 对所有线性层应用 LoRA，效果更好
• gradient_checkpointing: true —— 用时间换空间，降低显存占用

一切就绪，启动训练：

llamafactory-cli train examples/train_lora/qwen3.5_medical_lora.yaml

训练过程中可以通过 TensorBoard 监控 loss 曲线：

tensorboard --logdir=./output/qwen3.5_medical_lora/runs

在我的测试环境（RTX 4090）上，1 万条数据训练 3 个 epoch 大约需要 40 分钟。

测试效果

训练完成后，先在命令行跑个快速测试：

llamafactory-cli chat examples/inference/qwen3.5_medical_lora.yaml

对应的推理配置文件 qwen3.5_medical_lora.yaml：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen3.5_medical_lora
template: qwen3
finetuning_type: lora

实测下来，微调后的模型在医疗问答上明显比原版更专业。比如问"孕妇能不能吃螃蟹"，原版模型可能给个模棱两可的回答，微调后的版本会从中医寒凉属性、现代营养学、个体差异等多个角度分析，更像一个有经验的医生。

导出和部署

如果效果满意，可以把 LoRA 权重合并到基座模型里，方便后续部署：

llamafactory-cli export examples/merge_lora/qwen3.5_medical_merge.yaml

合并配置：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen3.5_medical_lora
template: qwen3
finetuning_type: lora
export_dir: ./models/Qwen3.5-Medical
export_size: 2
export_device: cuda
export_legacy_format: false

合并后的模型可以直接用 vLLM 或者 SGLang 部署成 API 服务：

# vLLM 部署
pip install vllm
vllm serve ./models/Qwen3.5-Medical --port 8000

# 或者 LLaMA-Factory 内置的 API 服务
API_PORT=8000 llamafactory-cli api examples/inference/qwen3.5_medical.yaml

踩坑记录

分享几个我遇到过的问题：

1. 显存不够用

把 per_device_train_batch_size 调小，或者启用 gradient_checkpointing。实在不行就上 4-bit 量化。

2. Loss 不下降

检查数据格式是否正确，尤其是 dataset_info.json 里的字段映射。另外学习率不要设太大，1e-4 到 5e-5 之间比较稳。

3. 微调后模型变傻了

可能是数据质量问题，或者训练轮数太多导致过拟合。适当减少 epoch 数，或者在数据里混入一些通用对话保持泛化能力。

医疗领域的 AI 应用一定要注意：模型输出仅供参考，不能替代专业医生的诊断。在产品设计时要做好免责声明和人工审核机制。

整个流程走下来，从环境搭建到模型部署，熟练的话半天就能搞定。LLaMA-Factory 确实把微调的门槛降低了很多，配合 Qwen3.5 这样的高质量基座模型，普通开发者也能做出效果不错的垂直领域 AI 助手。

当然，真要做成产品级的医疗 AI，还需要在数据质量、安全合规、持续迭代等方面下功夫。但至少，迈出第一步没那么难。