基于中文金融知识的 LLaMA 系微调模型智能问答系统

针对此前数据仍存在不准确和类型单一等不完善的地方，目前利用 GPT3.5/4.0 接口进一步优化数据，并扩充中文金融知识库。设置多种 Prompt 形式、multi-task 形式拓展丰富指令数据集，实现金融领域多业务场景覆盖。

数据增强策略

1. 数据清洗：去除重复、低质量及包含敏感信息的样本。
2. 多样性生成：利用大模型 API 对同一问题进行多角度改写，增加输入多样性。
3. 负样本构造：引入部分错误回答作为负样本，提升模型的判别能力。

5. 微调 (Fine-tune)

若想用自己的数据集微调 LLaMA，请按照 ./instruction_data/fin_data.json 的格式构建自己的数据集。

微调参数配置

在微调过程中，关键超参数包括学习率、Batch Size 和 Epochs。推荐使用以下默认配置作为起点：

• Learning Rate: 2e-5
• Weight Decay: 0.01
• Warmup Ratio: 0.03
• Max Steps: 根据数据集大小动态调整

运行 finetune 脚本：

bash ./scripts/finetune.sh

6. 训练细节

6.1 计算资源需求

目前训练设备为一张 A100-SXM-80GB 显卡，训练总轮次 10 轮。

• batch_size=64：显存占用约 40G。
• batch_size=96：显存占用约 65G。

预计 3090/4090 显卡 (24GB 显存) 以上显卡可以较好支持，需根据显存大小调整 batch_size 或开启梯度累积（Gradient Accumulation）。

6.2 实验记录

训练过程中的 Loss 下降曲线及验证集表现是评估模型收敛情况的关键指标。通常观察到 Loss 在前几个 epoch 快速下降，随后趋于平稳。

6.3 模型效果对比

下表展示了不同模型在特定金融问题上的输出对比：

从对比结果可见，经过金融领域微调的模型在专业术语使用和逻辑准确性上优于通用大模型。

7. 提示词模板 (Prompt Templates)

此目录包含用于 LoRA 微调 LLaMa 模型的提示的模板样式。

7.1 模板结构

模板是通过一个 JSON 文件描述的，该文件包含以下键：

• prompt_input: 当 input 不为 None 时使用的模板。使用 {instruction} 和 {input} 占位符。
• prompt_no_input: 当 input 为 None 时使用的模板。使用 {instruction} 占位符。
• description: 模板的简短描述及适用场景。
• response_split: 用于从模型输出中切割真实响应的分隔符文本。

未使用 {response} 占位符，因为响应始终是模板的最后一个元素，只需拼接即可。

7.2 模板案例

默认模板除非另有指定，否则使用 alpaca.json。

{
    "description": "Template used by Alpaca-LoRA.",
    "prompt_input": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Input:\n{input}\n\n### Response:\n",
    "prompt_no_input": "Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:\n",
    "response_split": "### Response:"
}

7.3 现有模板说明

7.3.1 alpaca

到目前为止，用于通用 LoRA 微调的默认模板。

7.3.2 alpaca_legacy

原始羊驼使用的旧模板，响应字段后没有换行符。保留以供参考和实验。

7.3.3 alpaca_short

一个修剪过的羊驼模板，它似乎也表现得很好，并节省了一些 tokens。使用默认模板创建的模型似乎也可以通过短时间查询。

8. 提示构建模块

• prompter.py

Prompter class, a template manager.

from utils.prompter import Prompter

9. 模型部署与优化

为了在实际生产环境中高效使用该模型，建议采用以下步骤进行部署。

9.1 量化加速

对于显存受限的场景，可以使用 GGUF 或 AWQ 量化技术将模型压缩至 4bit 或 8bit，在保持精度损失可控的前提下大幅降低显存占用。

9.2 API 服务化

使用 FastAPI 封装推理接口，结合 uvicorn 进行异步处理，以支持高并发请求。

from fastapi import FastAPI
import torch

app = FastAPI()

@app.post("/chat")
def chat(instruction: str):
    # 调用模型推理逻辑
    response = model.generate(instruction)
    return {"answer": response}

9.3 性能监控

在生产环境中，应集成 Prometheus 和 Grafana 监控 GPU 利用率、推理延迟及 QPS，以便及时发现瓶颈并进行扩容。

10. 常见问题排查

1. 显存溢出 (OOM)：尝试减小 batch_size，启用 gradient checkpointing，或使用 DeepSpeed ZeRO 优化。
2. 推理速度慢：检查是否使用了 Flash Attention，或考虑使用 vLLM 等高性能推理引擎。
3. 幻觉严重：在 Prompt 中加入'请基于已知事实回答'的约束，或增加 Few-shot 示例。

本系统旨在提供一个可复现、可扩展的金融领域大模型微调方案，帮助开发者快速构建垂直领域的智能问答应用。