基于 LLaMA-Factory 微调 Qwen3.5-4B 构建医疗 AI 助手

将处理好的数据放到 data/ 目录下，并在 data/dataset_info.json 中注册：

{
  "medical_qa": {
    "file_name": "medical_qa.json",
    "columns": {
      "prompt": "instruction",
      "query": "input",
      "response": "output"
    }
  }
}

开始微调

配置文件位于 examples/train_lora/qwen35_medical_lora.yaml：

### 模型配置 ###
model_name_or_path: ./models/Qwen3.5-4B
trust_remote_code: true
### 微调方法 ###
stage: sft
do_train: true
finetuning_type: lora
lora_rank: 64
lora_alpha: 128
lora_target: all
### 数据集配置 ###
dataset: medical_qa
template: qwen3
cutoff_len: 2048
preprocessing_num_workers: 8
### 训练参数 ###
output_dir: ./output/qwen35_medical_lora
per_device_train_batch_size: 2
gradient_accumulation_steps: 8
learning_rate: 1.0e-4
num_train_epochs: 3.0
lr_scheduler_type: cosine
warmup_ratio: 0.1
logging_steps: 10
save_steps: 500
### 显存优化 ###
bf16: true
gradient_checkpointing: true

启动训练：

llamafactory-cli train examples/train_lora/qwen35_medical_lora.yaml

监控 loss 曲线：

tensorboard --logdir=./output/qwen35_medical_lora/runs

测试效果

快速测试命令：

llamafactory-cli chat examples/inference/qwen35_medical_lora.yaml

推理配置文件 qwen35_medical_lora.yaml：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen35_medical_lora
template: qwen3
finetuning_type: lora

导出和部署

合并 LoRA 权重：

llamafactory-cli export examples/merge_lora/qwen35_medical_merge.yaml

合并配置：

model_name_or_path: ./models/Qwen3.5-4B
adapter_name_or_path: ./output/qwen35_medical_lora
template: qwen3
finetuning_type: lora
export_dir: ./models/Qwen35-Medical
export_size: 2
export_device: cuda
export_legacy_format: false

vLLM 部署示例：

pip install vllm
vllm serve ./models/Qwen35-Medical --port 8000

或使用 LLaMA-Factory 内置 API 服务：

API_PORT=8000 llamafactory-cli api examples/inference/qwen35_medical.yaml

常见问题

1. 显存不够用：调小 per_device_train_batch_size，启用 gradient_checkpointing，或上 4-bit 量化。
2. Loss 不下降：检查数据格式及字段映射，调整学习率至 1e-4 到 5e-5 之间。
3. 微调后模型变差：可能是数据质量问题或过拟合，减少 epoch 数或混入通用对话数据。

医疗领域的 AI 应用一定要注意：模型输出仅供参考，不能替代专业医生的诊断。在产品设计时要做好免责声明和人工审核机制。