跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

LLaMA-Factory 命令行工具常用操作指南

LLaMA-Factory 命令行工具 llamafactory-cli 的常用功能,包括版本检查、可视化界面启动、命令行与网页聊天、API 服务部署以及模型训练、评估和导出流程。通过具体命令示例,展示了如何快速上手大模型的微调与应用环境搭建。

信号故障发布于 2026/4/6更新于 2026/7/1959 浏览

引言

在使用 LLaMA-Factory 进行大模型的微调、评估和部署时,llamafactory-cli 是最常用的命令行工具。它不仅支持命令行对话、训练、评估,还提供了网页界面、API 服务等多种交互方式。

本文将详细介绍 llamafactory-cli 的常用命令及其使用方法。

命令使用

命令功能简述
llamafactory-cli api启动 OpenAI 风格的 API 服务
llamafactory-cli chat在命令行中启动聊天界面
llamafactory-cli eval评估模型
llamafactory-cli export合并 LoRA 适配器并导出模型
llamafactory-cli train训练模型
llamafactory-cli webchat启动网页聊天界面
llamafactory-cli webui启动 LlamaBoard 界面
llamafactory-cli version显示版本信息

2.1 version(显示版本)

功能:显示 LLaMA-Factory 的版本信息,验证安装是否成功

执行命令:

llamafactory-cli version

2.2 webui(启动 LlamaBoard 界面)

功能:启动可视化界面 LlamaBoard,提供图形化操作入口

执行命令:

llamafactory-cli webui

浏览器访问:http://127.0.0.1:7860

2.3 chat(命令行聊天)

功能:接在终端中与模型进行对话,无需启动网页

基础命令:

llamafactory-cli chat --model_name_or_path 模型路径 --template 模板名称

例如:

llamafactory-cli chat --model_name_or_path /path/to/model --template deepseekr1

也可以从模型训练后的 checkpoint 启动:

llamafactory-cli chat --model_name_or_path 模型路径 --adapter_name_or_path 训练后路径 --template 模板名称

2.4 webchat(网页聊天)

功能:启动网页端聊天界面

webchat 的功能跟 chat 命令差不多,只是提供了 Web 页面进行对话。基础命令如下:

llamafactory-cli webchat --model_name_or_path 模型路径 --template 模板名称

2.5 api(启动 API 服务)

功能:启动 OpenAI 风格的 API 服务

基础命令:

llamafactory-cli api --model_name_or_path 模型路径 --template 模板名称

浏览器访问:http://localhost:8000/docs

开放了 3 种 API:

接口名称路径说明
List Models/v1/models列出当前可用的模型
Create Chat Completion/v1/chat/completions生成聊天回复
Create Score Evaluation/v1/score/evaluation对模型输出进行评分

2.6 train(训练模型)

功能:启动训练流程,对模型进行微调

2.7 eval(评估模型)

功能:对训练后的模型进行性能评估

2.8 export(导出模型)

功能:合并 LoRA 适配器并导出最终模型

总结

本文详细介绍了 LLaMA-Factory 的命令行工具 llamafactory-cli 的常用功能,包括版本检查、命令行聊天、网页聊天、可视化界面、API 服务,以及训练、评估、导出等核心操作。

  • 可以先从 chat / webchat 开始,快速体验模型效果;
  • 如果需要部署服务,建议使用 api 模式;
  • 完整训练流程中,train → eval → export 是必经的三个步骤。

目录

  1. 引言
  2. 命令使用
  3. 2.1 version(显示版本)
  4. 2.2 webui(启动 LlamaBoard 界面)
  5. 2.3 chat(命令行聊天)
  6. 2.4 webchat(网页聊天)
  7. 2.5 api(启动 API 服务)
  8. 2.6 train(训练模型)
  9. 2.7 eval(评估模型)
  10. 2.8 export(导出模型)
  11. 总结
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • 从冯诺依曼体系到操作系统:解析 Linux 底层核心逻辑
  • npm 安装 OpenClaw 遇到 Git 报错的解决方案
  • Kimi Code:Moonshot AI 推出的智能编程助手与使用指南
  • DeepSeek 系列模型版本演进与核心特性对比
  • AI 大模型:技术趋势、行业应用与未来展望
  • Python 十大实用技巧:爬虫、自动化与数据处理
  • PromptPilot 工具使用指南:实现 Prompt 精准优化与迭代
  • GitHub 镜像加速:Gitee 与 Coding 开源项目克隆指南
  • XR 技术解析:OpenVR、OpenXR、SteamVR 与厂商 SDK 概念辨析
  • 6本AI领域名家名作推荐,大模型时代学习指南
  • Edge 边栏 Copilot 图标消失的解决方法
  • 大模型幻觉问题治理:技术体系、工程实践与未来演进
  • 数字图像处理与 FPGA 实现:搭建算法与硬件思维的桥梁
  • Flutter 三方库 flutter_google_maps_webservices 的鸿蒙化适配指南
  • CentOS 升级 GCC 至 10.1.0 源码编译指南
  • Git 远程协作从安装到提交:常见问题的实战解决方案
  • Python 网络爬虫常用库与正则表达式实战指南
  • 基于 Rokid 灵珠平台的 AI Glasses 作业助手开发指南
  • 英伟达与 GitHub 免费大模型 API Key 获取实战
  • Spring Web MVC 入门指南:从概念到实践

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online