LLaMA-Factory 引擎重塑游戏 NPC 对话逻辑
在文字冒险游戏里，玩家最怕的不是任务难度，而是遇到话术机械、反应呆板的 NPC。明明设定是末世废土，NPC 却满嘴网络流行语，这种割裂感足以摧毁沉浸感。
《Lostlife2.0》早期依赖传统决策树系统，每句台词手动编写，分支配置繁琐。新增剧情往往导致节点爆炸，形成难以管理的复杂网络。引入 LLaMA-Factory 后，团队构建了动态、可进化且风格一致的对话生成系统。
为什么选择 LLaMA-Factory？
市面上的大模型工具大多面向专家，需要熟悉 Hugging Face API 和 PyTorch 底层机制。LLaMA-Factory 则将其产品化，WebUI 即可完成从基座模型选择到训练监控的全流程。它原生支持 LoRA、QLoRA，让消费级显卡训练 7B 甚至 70B 模型成为可能。
比如想让 NPC 学会冷峻讽刺的语气，只需准备几百条符合语调的样本，勾选 LoRA 微调，几小时后就能得到懂情境的专属模型。其底层基于 Transformers + PEFT + Accelerate，兼容 DeepSpeed，数据预处理模块自动识别多种格式并转换为指令微调格式。
# train_lora.yaml
model_name_or_path: /models/Qwen-7B-Chat
adapter_name_or_path: /outputs/qwen_lora_npc_dialogue
data_path: ./data/lostlife_npc_conversations.json
output_dir: ./outputs/qwen_lora_npc_dialogue
overwrite_output_dir: true
per_device_train_batch_size: 4
gradient_accumulation_steps: 8
learning_rate: 1e-4
num_train_epochs: 3
logging_steps: 10
save_steps: 100
evaluation_strategy: "no"
lora_rank: 64
lora_alpha: 16
lora_dropout: 0.05
target_modules: ["q_proj", "v_proj"]
fp16: true
这是实际使用的 YAML 配置。target_modules 指定只对注意力机制中的 q_proj 和 插入低秩适配器，仅更新不到总参数量的 3%，却能达到接近全参微调的效果。配合梯度累积，单张 RTX 3090 也能稳定运行。
