引言
在使用 LLaMA-Factory 进行大模型的微调、评估和部署时,llamafactory-cli 是最常用的命令行工具。它不仅支持命令行对话、训练、评估,还提供了网页界面、API 服务等多种交互方式。
本文将详细介绍 llamafactory-cli 的常用命令及其使用方法。
命令使用
| 命令 | 功能简述 |
|---|---|
| llamafactory-cli api | 启动 OpenAI 风格的 API 服务 |
| llamafactory-cli chat | 在命令行中启动聊天界面 |
| llamafactory-cli eval | 评估模型 |
| llamafactory-cli export | 合并 LoRA 适配器并导出模型 |
| llamafactory-cli train | 训练模型 |
| llamafactory-cli webchat | 启动网页聊天界面 |
| llamafactory-cli webui | 启动 LlamaBoard 界面 |
| llamafactory-cli version | 显示版本信息 |
2.1 version(显示版本)
功能:显示 LLaMA-Factory 的版本信息,验证安装是否成功
执行命令:
llamafactory-cli version
2.2 webui(启动 LlamaBoard 界面)
功能:启动可视化界面 LlamaBoard,提供图形化操作入口
执行命令:
llamafactory-cli webui
浏览器访问:http://127.0.0.1:7860
2.3 chat(命令行聊天)
功能:接在终端中与模型进行对话,无需启动网页
基础命令:
llamafactory-cli chat --model_name_or_path 模型路径 --template 模板名称
例如:
llamafactory-cli chat --model_name_or_path /path/to/model --template deepseekr1
也可以从模型训练后的 checkpoint 启动:
llamafactory-cli chat --model_name_or_path 模型路径 --adapter_name_or_path 训练后路径 --template 模板名称
2.4 webchat(网页聊天)
功能:启动网页端聊天界面
webchat 的功能跟 chat 命令差不多,只是提供了 Web 页面进行对话。基础命令如下:
llamafactory-cli webchat --model_name_or_path 模型路径 --template 模板名称
2.5 api(启动 API 服务)
功能:启动 OpenAI 风格的 API 服务
基础命令:
llamafactory-cli api --model_name_or_path 模型路径 --template 模板名称
浏览器访问:http://localhost:8000/docs
开放了 3 种 API:
| 接口名称 | 路径 | 说明 |
|---|---|---|
| List Models | /v1/models | 列出当前可用的模型 |
| Create Chat Completion | /v1/chat/completions | 生成聊天回复 |
| Create Score Evaluation | /v1/score/evaluation | 对模型输出进行评分 |
2.6 train(训练模型)
功能:启动训练流程,对模型进行微调
2.7 eval(评估模型)
功能:对训练后的模型进行性能评估
2.8 export(导出模型)
功能:合并 LoRA 适配器并导出最终模型
总结
本文详细介绍了 LLaMA-Factory 的命令行工具 llamafactory-cli 的常用功能,包括版本检查、命令行聊天、网页聊天、可视化界面、API 服务,以及训练、评估、导出等核心操作。
- 可以先从
chat / webchat开始,快速体验模型效果; - 如果需要部署服务,建议使用
api模式; - 完整训练流程中,
train → eval → export是必经的三个步骤。

