PythonAI算法
Llama3 微调实践教程（XTuner 版）
Llama 3 发布 8B 和 70B 模型，采用 GQA 和 Tiktoken 分词器。本文介绍使用 XTuner 进行 Llama 3 全量微调的实践流程，包括环境配置、模型下载、数据集准备、配置文件修改及训练推理验证。仅需 2 张 A100 即可支持 8K 上下文全量微调，通过自定义认知数据可实现模型个性化设定。
Llama 3 发布 8B 和 70B 模型，采用 GQA 和 Tiktoken 分词器。本文介绍使用 XTuner 进行 Llama 3 全量微调的实践流程，包括环境配置、模型下载、数据集准备、配置文件修改及训练推理验证。仅需 2 张 A100 即可支持 8K 上下文全量微调，通过自定义认知数据可实现模型个性化设定。
首先回顾一下 Llama 3 的亮点：
在正式实战之前先看一下 XTuner 团队对 Llama 3 8B 的性能测试结果。以下使用不同数量 GPU 全量微调 Llama3 8B 时的训练效率，仅需 2 * A100 80G 即可全量微调 8k 上下文 Llama3 8B。
使用 8 * A100 80G 全量微调不同上下文长度的 Llama3 8B 时的训练效率。
本小节将带大家部署 Llama3 Web Demo。
conda create -n llama3 python=3.10
conda activate llama3
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia
conda install git
git-lfs install
首先通过 OpenXLab 下载 Llama-3-8B-Instruct 这个模型。
mkdir -p ~/model
cd ~/model
git clone https://code.openxlab.org.cn/MrCat/Llama-3-8B-Instruct.git Meta-Llama-3-8B-Instruct
或者软链接本地模型。
ln -s /root/share/new_models/meta-llama/Meta-Llama-3-8B-Instruct ~/model/Meta-Llama-3-8B-Instruct
cd ~
git clone -b v0.1.18 https://github.com/InternLM/XTuner
cd XTuner
pip install -e .
streamlit run ~/Llama3-XTuner-CN/tools/web_demo.py /path/to/model/Llama-3-8B-Instruct
通过此命令我们就成功本地运行 Llama3 的 Web Demo 了可以愉快的和它对话了，此时问'你是'，模型的自我认识是 Llama。
在本节我们尝试让 Llama3 有"它是 YourCompany 打造的人工智能助手"的自我认知，最终效果图如下所示：
首先我们通过以下脚本制作自我认知的数据集。
cd ~/Llama3-XTuner-CN
python tools/gdata.py
数据生成脚本 gdata.py 如下所示，实现了产生 2000 条自我认知的数据的功能，在正式环境中我们需要对各种数据进行配比，为了社区同学们能够快速上手，本例子就采用了过拟合的方式。
import json
# 输入你的名字或者机构
name = 'YourCompany'
# 重复次数
n = 2000
data = [
{
"conversation": [
{
"system":"你是一个懂中文的小助手",
"input": "你是（请用中文回答）",
"output": "您好，我是 {}，一个由 YourCompany 打造的人工智能助手，请问有什么可以帮助您的吗？".format(name)
}
]
}
]
for i in range(n):
data.append(data[0])
with open('data/personal_assistant.json', 'w', encoding='utf-8') as f:
json.dump(data, f, ensure_ascii=False, indent=4)
以上脚本在生成了 ~/Llama3-XTuner-CN/data/personal_assistant.json 数据文件格式如下所示：
[
{
"conversation": [
{
"system": "你是一个懂中文的小助手",
"input": "你是（请用中文回答）",
"output": "您好，我是 SmartFlowAI，一个由 SmartFlowAI 打造的人工智能助手，请问有什么可以帮助您的吗？"
}
]
},
{
"conversation": [
{
"system": "你是一个懂中文的小助手",
"input": "你是（请用中文回答）",
"output": "您好，我是 SmartFlowAI，一个由 SmartFlowAI 打造的人工智能助手，请问有什么可以帮助您的吗？"
}
]
},
...
]
小编在 XTuner 官方的 config 基础上修改了模型路径等关键参数，为大家直接准备好了 configs/assistant/llama3_8b_instruct_qlora_assistant.py 配置文件，可以直接享用～
cd /root/project/llama3-ft
xtuner train configs/assistant/llama3_8b_instruct_qlora_assistant.py --work-dir /root/llama3_pth
# Adapter PTH 转 HF 格式
xtuner convert pth_to_hf /root/llama3_pth/llama3_8b_instruct_qlora_assistant.py \
/root/llama3_pth/iter_500.pth \
/root/llama3_hf_adapter
# 模型合并
export MKL_SERVICE_FORCE_INTEL=1
xtuner convert merge /root/model/Meta-Llama-3-8B-Instruct \
/root/llama3_hf_adapter \
/root/llama3_hf_merged
streamlit run ~/Llama3-XTuner-CN/tools/web_demo.py /root/llama3_hf_merged
到此为止我们就让 Llama3 具备了'他是由 YourCompany 打造的人工智能助手'的个人认知，本文演示平台为 InternStudio，如其他平台只需适当调整相关路径也能比较顺畅的运行起来，XTuner 玩转 Llama3 图片理解更多玩法请参考官方文档。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online