跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

LLaMA-Factory 命令行工具 llamafactory-cli 实操指南

LLaMA-Factory 命令行工具 llamafactory-cli 支持版本检查、可视化界面启动、命令行及网页聊天、API 服务部署以及模型训练评估导出。记录了各命令的具体用法与参数示例,涵盖从环境验证到模型微调的全流程操作,帮助用户快速上手大模型微调与应用部署。

漫步发布于 2026/3/25更新于 2026/11/6118 浏览

1. 引言

在使用 LLaMA-Factory 进行大模型的微调、评估和部署时,llamafactory-cli 是最常用的命令行工具。它不仅支持命令行对话、训练、评估,还提供了网页界面、API 服务等多种交互方式。

2. 命令使用

命令功能简述
llamafactory-cli api启动 OpenAI 风格的 API 服务
llamafactory-cli chat在命令行中启动聊天界面
llamafactory-cli eval评估模型
llamafactory-cli export合并 LoRA 适配器并导出模型
llamafactory-cli train训练模型
llamafactory-cli webchat启动网页聊天界面
llamafactory-cli webui启动 LlamaBoard 界面
llamafactory-cli version显示版本信息

2.1 version(显示版本)

功能:显示 LLaMA-Factory 的版本信息,验证安装是否成功

执行命令:

llamafactory-cli version

执行后的效果如下:

执行效果

2.2 webui(启动 LlamaBoard 界面)

功能:启动可视化界面 LlamaBoard,提供图形化操作入口

执行命令:

llamafactory-cli webui

执行后返回:

执行效果

浏览器访问:http://127.0.0.1:7860

2.3 chat(命令行聊天)

功能:接在终端中与模型进行对话,无需启动网页

最小化命令:

llamafactory-cli chat --model_name_or_path <model_path> --template <template_name>

例如:

llamafactory-cli chat --model_name_or_path <model_path> --template deepseekr1

执行效果如下:

执行效果

当然也可以从模型训练完的 checkpoint 启动,命令如下:

llamafactory-cli chat --model_name_or_path <model_path> --adapter_name_or_path <adapter_path> --template <template_name>

2.4 webchat(网页聊天)

功能:启动网页端聊天界面

webchat 的功能跟 chat 命令差不多,只是 webchat 是给了一个 web 页面进行对话。最小化命令如下:

llamafactory-cli webchat --model_name_or_path <model_path> --template <template_name>

例如:

llamafactory-cli webchat --model_name_or_path <model_path> --template deepseekr1

执行效果

当然也可以从模型训练完的 checkpoint 启动 webchat,跟 chat 命令差不多:

llamafactory-cli webchat --model_name_or_path <model_path> --adapter_name_or_path <adapter_path> --template <template_name>

2.5 api(启动 API 服务)

功能:启动 OpenAI 风格的 API 服务

最小化命令:

llamafactory-cli api --model_name_or_path <model_path> --template <template_name>

例如执行:

llamafactory-cli api --model_name_or_path <model_path> --template deepseekr1

可以看到输出了如下信息:

执行效果

浏览器访问:http://localhost:8000/docs

执行效果

可以看到开放了 3 种 API,分别是:

接口名称路径说明
List Models/v1/models列出当前可用的模型,用于查看可选择的模型信息
Create Chat Completion/v1/chat/completions生成聊天回复,用于对话或文本生成
Create Score Evaluation/v1/score/evaluation对模型输出进行评分或评估,用于检测生成内容质量

直接执行 ListModels 列出当前可用的模型,可以看见返回:

执行效果

执行 Create Chat Completion,示例请求内容如下:

{"model":"deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B", "messages":[{"role":"user", "content":"你好,可以自我介绍一下吗?"}], "do_sample": true, "temperature":0.7, "top_p":0.9, "n":1, "max_tokens":512, "stream":false}

可以看到返回:

执行效果

2.6 train(训练模型)

功能:启动训练流程,对模型进行微调

具体配置请参考官方文档。

2.7 eval(评估模型)

功能:对训练后的模型进行性能评估

具体配置请参考官方文档。

2.8 export(导出模型)

功能:合并 LoRA 适配器并导出最终模型

具体配置请参考官方文档。

3. 总结

本文详细介绍了 LLaMA-Factory 的命令行工具 llamafactory-cli 的常用功能,包括版本检查、命令行聊天、网页聊天、可视化界面、API 服务,以及训练、评估、导出等核心操作。

  • 可以先从 chat / webchat 开始,快速体验模型效果;
  • 如果需要部署服务,建议使用 api 模式;
  • 完整训练流程中,train → eval → export 是必经的三个步骤。

通过灵活使用这些命令,可以快速搭建起大模型微调与应用环境。

目录

  1. 1. 引言
  2. 2. 命令使用
  3. 2.1 version(显示版本)
  4. 2.2 webui(启动 LlamaBoard 界面)
  5. 2.3 chat(命令行聊天)
  6. 2.4 webchat(网页聊天)
  7. 2.5 api(启动 API 服务)
  8. 2.6 train(训练模型)
  9. 2.7 eval(评估模型)
  10. 2.8 export(导出模型)
  11. 3. 总结

更多推荐文章

查看全部
  • AI 时代的技术民主化与个人创作实践
  • Microi 吾码开源低代码平台部署与实战指南
  • Vivado 2020.2 安装教程:FPGA 开发环境搭建指南
  • 基于 DGX Spark 部署 Stable Diffusion 3.5 及 ComfyUI 实战
  • 百度文心 5.0 发布:2.4 万亿参数与原生全模态解析
  • 基于 OpenClaw 与 Open WebUI 的企业多部门 AI 平台部署方案
  • 生成式人工智能的扩散模型概述
  • Angular SSR 核心依赖解析:@angular/platform-server 与 @angular/ssr 职责辨析
  • AI Agent 新范式:FastGPT 集成 MCP 协议构建工具增强型智能体
  • Linux 进程概念:命令行参数与环境变量深度解析
  • AI 交互上下文溢出解决方案:会话压缩技术实现解析
  • 利用文心一言设计智能体稳定调用工作流的提示词
  • RoboChallenge具身智能年报:4万次真机测试揭示模型真实能力与局限
  • Retinaface+CurricularFace 人脸识别服务 Kubernetes StatefulSet 部署实战
  • 深入理解 Kubernetes DaemonSet 及其调度机制
  • 基于指数预定义时间控制的固定翼无人机轨迹跟踪控制(Matlab 仿真)
  • OpenClaw 钉钉对接教程:在 Linux 部署本地 AI 智能体
  • 前端 html2canvas 核心场景与实战指南
  • OpenClaw 智能体安装部署与 QQ 机器人接入指南
  • Qwen-Image-2512:消费级 GPU 本地部署 AI 文生图方案

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online