用 LLaMA-Factory 微调 Qwen3.5-4B 做医疗助手

把处理好的数据放到 data/ 目录下，再在 data/dataset_info.json 里注册：

{
  "medical_qa": {
    "file_name": "medical_qa.json",
    "columns": {
      "prompt": "instruction",
      "query": "input",
      "response": "output"
    }
  }
}

开始微调

配置文件位于 examples/train_lora/qwen35_medical_lora.yaml：

### 模型配置 ###
model_name_or_path: ./models/Qwen3.5-4B
trust_remote_code: true
### 微调方法 ###
stage: sft
do_train: true
finetuning_type: lora
lora_rank: 64
lora_alpha: 128
lora_target: all
### 数据集配置 ###
dataset: medical_qa
template: qwen3
cutoff_len: 2048
preprocessing_num_workers: 8
### 训练参数 ###
output_dir: ./output/qwen35_medical_lora
per_device_train_batch_size: 2
gradient_accumulation_steps: 8
learning_rate: 1.0e-4
num_train_epochs: 3.0
lr_scheduler_type: cosine
warmup_ratio: 0.1
logging_steps: 10
save_steps: 500
### 显存优化 ###
bf16: true
gradient_checkpointing: true

启动训练：

llamafactory-cli train examples/train_lora/qwen35_medical_lora.yaml

监控 loss 曲线：

tensorboard --logdir=./output/qwen35_medical_lora/runs

测试效果

快速测试命令：

llamafactory-cli chat examples/inference/qwen35_medical_lora.yaml

推理配置文件 qwen35_medical_lora.yaml：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen35_medical_lora
template: qwen3
finetuning_type: lora

导出和部署

合并 LoRA 权重：

llamafactory-cli export examples/merge_lora/qwen35_medical_merge.yaml

合并配置：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen35_medical_lora
template: qwen3
finetuning_type: lora
export_dir: ./models/Qwen35-Medical
export_size: 2
export_device: cuda
export_legacy_format: false

vLLM 部署示例：

pip install vllm
vllm serve ./models/Qwen35-Medical --port 8000

或者直接用 LLaMA-Factory 内置的 API 服务：

API_PORT=8000 llamafactory-cli api examples/inference/qwen35_medical.yaml

常见问题

1. 显存不够用：先把 per_device_train_batch_size 调小，再开 gradient_checkpointing，实在不行就换 4-bit 量化。这个顺序比较省时间。
2. Loss 不下降：先查数据格式和字段映射，很多时候问题不在模型，而在数据没喂对；学习率可以在 1e-4 到 5e-5 之间试。
3. 微调后模型变差：通常是数据质量不稳或者过拟合，减少 epoch，或者混一点通用对话数据，能缓一缓。

医疗领域的 AI 应用要留一道安全边界，模型输出只能作为参考，不能替代医生诊断。产品里最好保留免责声明和人工审核机制。