结合 LLaMA-Factory 打造个性化 AI 角色

以 QLoRA 为例，配置里通常会打开 4-bit 量化，并指定 LoRA 插入哪些层：

model_name_or_path: meta-llama/Llama-3-8B-Instruct
template: llama3
finetuning_type: lora
quantization_bit: 4
double_quantization: true
lora_target: q_proj,v_proj
lora_rank: 64
lora_alpha: 16
batch_size: 4
learning_rate: 2e-4
num_train_epochs: 3
output_dir: outputs/lora/poet_ai_v1
fp16: true
device_map: auto

这里有几个点值得留意：

• lora_target: q_proj,v_proj 通常是一个比较稳妥的选择。它只在注意力层的 Q、V 投影位置注入适配器，既能保留原模型能力，又能让风格学习更集中；
• double_quantization 可以进一步压缩量化相关的开销，对显存紧张的场景很友好；
• device_map: auto 则让框架自动处理设备分配，省去手动切层的麻烦。

配置保存后，就可以直接启动训练：

python src/train_bash.py --config train_lora.yaml

如果不想碰命令行，也可以直接使用它的 WebUI。上传数据、选择参数、点击训练，流程会更直观一些。

训练时要盯住什么

很多人做微调时容易踩进一个坑：把任务丢进去，然后等结果。等到几天后再看，才发现 loss 根本没降，或者模型已经严重过拟合了。

LLaMA-Factory 比较好的地方在于，它能让训练过程更透明。你可以实时看到：

• loss 是否稳定下降；
• 学习率变化是否正常；
• GPU 利用率和显存占用；
• 每个 step 的日志输出。

这些信息非常实用。比如 loss 卡住不动，通常意味着学习率、数据质量或者样本分布出了问题；如果显存吃紧，可以考虑减小 batch size，或者打开梯度检查点。

训练结束后，框架也支持做一些基础评估。BLEU、ROUGE 这类指标不能完全说明模型'像不像那个角色'，但至少能帮你快速筛掉那些明显跑偏的版本。

训练完之后怎么用

微调完成后，常见有两种用法。

一种是推理时动态加载原模型和 LoRA 权重，这样存储占用小，切换也方便。

另一种是把 LoRA 权重合并回原模型，得到一个完整的新模型。对于长期在线服务的场景，这种方式通常更省事，部署时直接加载即可。

合并后的模型可以接到 vLLM 或 Text Generation Inference（TGI）这类推理引擎上，再由前端通过 API 调用。一个比较常见的结构大致如下：

[用户输入] → [前端界面（网页/App）] → [API 网关 → 推理引擎（vLLM/TGI）]
                                      ↘ [微调后模型]
                                       ← [状态/记忆管理模块]

这里的'记忆管理'很关键。真正好用的角色，不只是会回答当前这句话，还要能记住上下文、维持情绪状态，甚至延续上一轮对话里的语气和立场。微调模型负责'人格'，记忆模块负责'连续性'，两者配合起来，角色才会显得完整。

它实际解决了哪些问题

LLaMA-Factory 的意义，不只是'能训练模型'，而是把很多原本很琐碎、很耗时间的事情变得可控了。

模型切换成本低了。 以前换一个底座，适配逻辑经常要重写。现在只要改 model_name_or_path，就能快速在不同模型之间做实验。

消费级显卡也能参与。 QLoRA 让 7B 到 13B 级别的模型在单卡上完成微调变得可行，这一点对个人开发者非常友好。

开发效率更高。 以前训练任务要改脚本、装依赖、跑命令，现在用 WebUI 就能完成大部分操作，试错成本低了很多。

训练过程不再黑箱。 可视化面板让你能及时发现异常，不必等到最后才知道模型根本没学会。

一些更实用的经验

如果你真的想把角色做得更像样，工具只是起点，数据和训练策略才决定最终效果。

数据质量永远比数量重要

与其塞一万条低质量样本，不如认真打磨几百条高代表性数据。尤其是语气、人格、表达方式这种特征，小而准的样本往往更有效。

LoRA Rank 不要盲目拉高

• 简单角色，比如客服、导游，rank=32 往往就够了；
• 如果是作家、心理咨询师这类表达空间更大的角色，可以试到 64 或 128；
• 太高会增加训练难度，太低又容易限制表现力，通常从 64 开始比较稳。

不要一口气训练太久

多数情况下，2 到 5 个 epoch 就足够了。训练轮次太多，模型容易开始'背答案'，而不是学风格。配合 early stopping 看验证集表现，会更稳妥。

合并权重前先备份

如果你准备把 LoRA 合并进原模型，务必先保留干净的 base model。这样后面想对比版本，或者重新试不同配置时，都会方便很多。

安全和合规别忽略

训练数据里要尽量过滤敏感信息，避免模型学到不当言论。条件允许的话，后续还可以结合 RLHF 或 DPO 继续对齐模型输出。

版本管理要做扎实

每次训练最好记录清楚：

• 使用的数据集版本；
• 配置文件快照；
• 训练日志；
• 最终评估结果。

这样后面做对比实验时，才知道到底是哪一版更有效。

写在最后

对像 Lostlife2.0 这样的个性化角色项目来说，LLaMA-Factory 已经不只是一个训练工具，而更像一条可复制的角色生产线。它把模型微调这件原本门槛很高的事，变成了更标准、更清晰、也更容易落地的流程。

如果把未来的 AI 角色想象成一套可组合的积木，那么性格、知识背景、语言风格和记忆模块，都会逐渐变成可以独立配置的部分。LLaMA-Factory 做的，就是把这套拼装方式先搭出来。

它未必是终点，但确实是通往'个性化 AI'非常实用的一步。