LLaMA-Factory 命令行工具 llamafactory-cli 常用命令详解

2.4 webchat（网页聊天）

功能：启动网页端聊天界面

webchat 的功能跟 chat 命令差不多，只是 webchat 是给了一个 web 页面进行对话。最小化命令如下：

llamafactory-cli webchat --model_name_or_path 模型名称或本地路径 --template 模板名称

例如：

llamafactory-cli webchat --model_name_or_path /Users/yanglinwei/.cache/modelscope/hub/models/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --template deepseekr1

当然也可以从模型训练完的 checkpoint 启动 webchat，跟 chat 命令差不多：

llamafactory-cli webchat --model_name_or_path 模型名称或本地路径 --adapter_name_or_path 训练后的路径 --template 模板名称

2.5 api（启动 API 服务）

功能：启动 OpenAI 风格的 API 服务

最小化命令：

llamafactory-cli api --model_name_or_path 模型名称或本地路径 --template 模板名称

例如执行：

llamafactory-cli api --model_name_or_path /Users/yanglinwei/.cache/modelscope/hub/models/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --template deepseekr1

可以看到开放了 3 种 API，分别是：

直接执行 ListModels 列出当前可用的模型，可以看见返回。

执行 Create Chat Completion，示例请求内容如下：

{"model":"deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B", "messages":[{"role":"user", "content":"你好，可以自我介绍一下吗？"}], "do_sample": true, "temperature":0.7, "top_p":0.9, "n":1, "max_tokens":512, "stream":false}

2.6 train（训练模型）

功能：启动训练流程，对模型进行微调

具体配置请参考官方文档。

2.7 eval（评估模型）

功能：对训练后的模型进行性能评估

具体配置请参考官方文档。

2.8 export（导出模型）

功能：合并 LoRA 适配器并导出最终模型

具体配置请参考官方文档。

总结

本文详细介绍了 LLaMA-Factory 的命令行工具 llamafactory-cli 的常用功能，包括版本检查、命令行聊天、网页聊天、可视化界面、API 服务，以及训练、评估、导出等核心操作。

• 可以先从 chat / webchat 开始，快速体验模型效果；
• 如果需要部署服务，建议使用 api 模式；
• 完整训练流程中，train → eval → export 是必经的三个步骤。

通过灵活使用这些命令，可以快速搭建起属于自己的大模型微调与应用环境。