基于 Docker 部署 Llama Factory 进行大模型微调的完整流程。涵盖环境配置、模型加载策略（支持 HuggingFace 与 ModelScope）、数据集格式规范与注册、关键训练参数调优（学习率、轮次、LoRA 配置）、训练过程监控及损失曲线分析。此外，还包含模型导出为 safetensors 格式及本地化部署前的测试验证步骤，帮助开发者快速上手私有化大模型训练。
本文记录基于 Llama Factory 进行大模型微调的实战流程，旨在帮助开发者快速搭建私有化训练环境，掌握从数据准备到模型导出的完整链路。
推荐使用 Docker 容器化部署 Llama Factory，以隔离依赖并简化环境配置。部署完成后，进入容器内部执行以下命令：
# 进入容器内部
docker exec -it llamafactory /bin/bash
# 启动可视化 Web UI
llamafactory-cli webui
启动成功后，在本地浏览器访问 http://localhost:7860 即可进入管理界面。
由于使用 Docker 部署，需将本地存储目录映射至容器内，以便持久化保存模型文件及训练结果。建议在 docker run 命令中设置多个卷映射：
docker run -v <本地模型目录>:<容器模型目录> \
-v <本地输出目录>:<容器输出目录> \
<镜像名称>
在 Web UI 中选择模型时，填写容器内的对应路径即可。
默认情况下，Llama Factory 会从 Hugging Face 下载基础模型。受网络环境影响，国内用户可能无法直接访问。建议采用以下替代方案：
export USE_MODELSCOPE_HUB=1
git lfs install
git clone <模型地址>
不同模型（如 LLaMA, ChatGLM, Qwen）对指令遵循的格式要求不同，务必在 Web UI 中选择合适的提示模板（Template）。错误的模板会导致训练效果不佳或对话逻辑混乱。
若使用自定义格式的数据集，需将其放入镜像对应的数据目录，并在 data_info.json 中进行注册配置，否则无法在列表中选择。
以下参数对训练结果影响显著，需根据显存大小和任务需求调整：
5e-5。对于 LLaMA 3.1 等较大模型，适当降低学习率有助于收敛稳定，但会增加训练时间。训练过程中需密切关注 Loss 变化趋势。当 Loss 曲线趋于平滑且不再显著下降时，表明模型已接近收敛。此时应手动停止训练，防止过拟合导致泛化能力下降。
除 Web UI 外，Llama Factory 也支持命令行直接调用训练脚本，适合自动化流水线集成：
llamafactory-cli train --config <配置文件路径>
切换至 Chat 标签页，加载上次训练的检查点（Checkpoint），发起对话以初步评估模型效果。此步骤可用于验证指令遵循能力及生成质量。
切换至 Export 标签页，选择检查点路径并填写导出目录（注意填写容器内路径）。若已映射本地目录，导出后的 safetensors 文件可直接在本地查看，便于后续部署至 llama.cpp 或 Ollama 等推理框架。
Llama Factory 提供了低门槛的大模型微调解决方案，通过可视化的操作界面降低了技术门槛。掌握上述流程后，开发者可灵活构建垂直领域的专用模型，并结合量化技术实现高效部署。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online