LLaMA-Factory 微调 DeepSeek-R1 模型实战指南

3. 格式转换：将数据清洗并转换为 LLaMA-Factory 所需的 ShareGPT 格式。此过程包括去除空消息、脱敏处理（替换手机号、邮箱等敏感信息）以及角色映射。

import json
import re

with open('merged_data.json', 'r', encoding='utf-8') as f:
    data = json.load(f)

converted_data = []

def replace_sensitive_info(text):
    text = re.sub(r'\d{3}[-]?\d{4}[-]?\d{4}', '[PHONE_NUMBER]', text)
    text = re.sub(r'\S+@\S+', '[EMAIL]', text)
    return text

for item_list in data:
    for item in item_list:
        if 'messages' not in item:
            continue
        conversation = {"conversations": []}
        for message in item['messages']:
            role = message['role']
            content = message['content'].replace("\n", " ").strip()
            content = replace_sensitive_info(content)
            
            if role == "user":
                from_role = "human"
            elif role == "assistant":
                from_role = "gpt"
            else:
                continue
            
            conversation['conversations'].append({"from": from_role, "value": content})
        converted_data.append(conversation)

with open('converted_data.json', 'w', encoding='utf-8') as f:
    json.dump(converted_data, f, ensure_ascii=False, indent=2)
print("格式转换完成")

模型微调

配置与训练

1. 数据集注册：将处理好的 converted_data.json 放入 data 目录，并在 dataset_info.json 中注册新数据集。

"converted_data": {
    "file_name": "converted_data.json",
    "formatting": "sharegpt",
    "columns": {"messages": "conversations"}
}

2. 参数设置：在 WebUI 中选择模型（如 DeepSeek-R1-Distill-Qwen-1.5B）、加载上述数据集。对于 LoRA 微调，建议先预览生成命令确认参数无误。

3. 开始训练：点击训练按钮，监控 Loss 曲线。训练结束后，权重文件通常保存在 saves 目录下。

评估与导出

训练完成后，可通过 Evaluate & Predict 功能对模型进行评估，查看 BLEU、ROUGE 等指标。最后，点击 Export 将 LoRA 权重导出为完整模型，方便部署到其他环境中。

导出时建议设备选择自动，以确保 CUDA 兼容性。导出的模型文件夹内包含必要的配置文件和权重文件，可直接用于推理服务。