跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

基于 LLaMA-Factory 和 LoRA 的大模型微调部署指南

LLaMA-Factory 部署指南涵盖 Windows 与 Linux 环境下的安装流程。通过 Conda 创建 Python 3.10 虚拟环境,安装 torch 及 metrics 依赖。配置 HuggingFace 镜像源与下载路径以加速模型获取。支持可视化 WebUI 启动微调界面。提供详细命令行操作示例,解决 SSL 证书及 pip 版本兼容性问题,为后续 LoRA 微调奠定基础。

暗影行者发布于 2026/3/26更新于 2026/7/338 浏览
基于 LLaMA-Factory 和 LoRA 的大模型微调部署指南

1. Windows

LLaMA-Factory 的 Github 地址:https://github.com/hiyouga/LLaMA-Factory

克隆仓库(示例目录为 D:\Program Files\LLaMa-Factory,Linux 可直接在根目录克隆)

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

切换到项目目录

cd LLaMA-Factory

修改配置,将 conda 虚拟环境安装到数据盘(若已配置则跳过此步)

mkdir -p "D:\Program Files\conda\pkgs"
conda config --add pkgs_dirs "D:\Program Files\conda\pkgs"
mkdir -p "D:\Program Files\conda\envs"
conda config --add envs_dirs "D:\Program Files\conda\envs"

或直接修改 C 盘配置文件(C:\Users\Administrator.condarc)

打开 Anaconda Prompt(管理员模式),若已将 conda 加入环境变量则直接在当前目录操作。

创建 conda 虚拟环境(必须使用 Python 3.10 版本,否则与 LLaMA-Factory 不兼容)

conda create -n llama-factory python=3.10

接受所有条款后重新执行上述操作

conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/main
conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/r
conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/msys2

激活环境

conda activate llama-factory

下载依赖

pip install -e ".[torch,metrics]"

若报错,先激活环境并初始化(当前目录或 Anaconda Prompt)

conda init

重新下载依赖即可。

若仍报错,可尝试更改 Python 版本:

conda create -n llama-factory-py311 python=3.11
source ~/.bashrc

检验是否安装成功

llamafactory-cli version

启动 LLaMA-Factory 的可视化微调界面(由 Gradio 驱动)

llamafactory-cli webui

访问 http://localhost:7860/

新开一个终端(进入项目目录),记得先激活 llama-factory 环境。

创建文件夹统一存放所有基座模型

mkdir "D:\Program Files\hugging-face"

修改 HuggingFace 的镜像源

set HF_ENDPOINT=https://hf-mirror.com

修改模型下载的默认位置

set "HF_HOME=D:\Program Files\hugging-face"

此配置方式仅在当前 shell 会话中有效。若希望每次启动终端时生效,可执行以下操作:

setx HF_ENDPOINT "https://hf-mirror.com"
setx "HF_HOME=D:\Program Files\hugging-face"

检查环境变量是否生效

echo %HF_ENDPOINT%
echo %HF_HOME%

安装 HuggingFace 官方下载工具

pip install -U huggingface_hub

若安装报错,可能是版本过高,建议安装低版本:

pip install "huggingface_hub<1.0"

执行下载命令

huggingface-cli download --resume-download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B

下载完成后可直接开始微调。

2. Linux

大部分操作与 Windows 类似。

克隆仓库(Linux 可直接在根目录克隆)

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

切换到项目目录

cd LLaMA-Factory

修改配置,将 conda 虚拟环境安装到数据盘

mkdir -p /root/autodl-tmp/conda/pkgs
conda config --add pkgs_dirs /root/autodl-tmp/conda/pkgs
mkdir -p /root/autodl-tmp/conda/envs
conda config --add envs_dirs /root/autodl-tmp/conda/envs

以管理员方式打开终端(若已将 conda 加入环境变量,就在当前目录操作)。

创建 conda 虚拟环境(必须使用 Python 3.10 版本,若后续下载包报错可使用 3.11)

conda create -n llama-factory python=3.10

如有需要,接受所有条款

conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/main
conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/r
conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/msys2

激活环境

conda activate llama-factory

下载依赖

pip install -e ".[torch,metrics]"

若报错,先激活环境并初始化

conda init

重新执行上述命令。

检验是否安装成功

llamafactory-cli version

启动 LLaMA-Factory 的可视化微调界面(由 Gradio 驱动)

llamafactory-cli webui

访问 http://localhost:7860/

新开一个终端,记得先激活 llama-factory 环境,同时要在 ~/autodl-tmp 目录下。

创建文件夹统一存放所有基座模型

mkdir hugging-face

修改 HuggingFace 的镜像源

export HF_ENDPOINT=https://hf-mirror.com

修改模型下载的默认位置

export HF_HOME=/root/autodl-tmp/Hugging-Face

此配置方式仅在当前 shell 会话中有效。若希望每次启动终端时生效:

echo 'export HF_ENDPOINT="https://hf-mirror.com"' >> ~/.bashrc
echo 'export HF_HOME="/root/autodl-tmp/hugging-face"' >> ~/.bashrc
source ~/.bashrc

检查环境变量是否生效

echo $HF_ENDPOINT
echo $HF_HOME

安装 HuggingFace 官方下载工具

pip install -U huggingface_hub

若安装报错,可能是版本过高,建议安装低版本:

pip install "huggingface_hub<1.0"

执行下载命令

huggingface-cli download --resume-download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B

下载完成后可直接开始微调。

3. 微调操作

该部分功能待更新。

目录

  1. 1. Windows
  2. 2. Linux
  3. 3. 微调操作
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • CycleGAN 详解与实现
  • 为什么 AI 开发首选 Python 而非 Java 或 C++?
  • 解决 Java 源发行版 17 与目标发行版不匹配问题
  • AI 鉴伪技术解析:人脸视频、AIGC 图像及文档篡改检测
  • C++ STL 容器常用函数与实战技巧
  • 滑动窗口算法详解:经典例题解析
  • 向量数据库与 RAG 应用架构解析(上)
  • Java 社区跑腿家政上门服务商城解决方案
  • 基于 Leaflet 和天地图的长沙免费运动场所 WebGIS 可视化
  • Windows 系统下 Stable Diffusion WebUI 环境搭建指南
  • CosyVoice3 支持 ARPAbet 音素标注,提升英文发音准确性
  • C++ 哈希表底层实现:unordered_map/set、位图与布隆过滤器
  • Python 开发 MongoDB 数据库 MCP Server 实战指南
  • Stable Diffusion WebUI 无障碍改造:键盘导航与屏幕阅读器适配
  • 数据结构初阶:基于动态顺序表实现通讯录
  • LangChain 框架核心模块与使用指南
  • OpenClaw 本地 AI 智能体入门与实战指南
  • 宇树 G1 机器人强化学习训练实战:环境配置与奖励函数
  • 鸿蒙金融理财全栈项目:上线运维、用户反馈与持续迭代
  • DeepSeek-R1 大模型基于 MS-Swift 框架的部署、推理与微调实践

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online