LLM 三角原则:简化大型模型应用开发流程与模型管理
不少开发者在构建 LLM 应用时,往往误以为核心在于复杂的模型本身。实际上,10% 是复杂的模型,而 90% 是实验性的、以数据为驱动的工程作业。将 LLM 应用到实际产品中,不仅需要代码功底,更需要工程上的精磨细打。
1. LLM 三角原则概念
LLM 三角原则是构建高效 LLM 本地应用的一套基本指南。它由'3+1'个基础组成(一范式三原则),适合任何团队实践。这套原则为开发者提供了清晰的框架,帮助打造出既健壮又可靠的 LLM 应用。

1.1 关键点
LLM 三角原则介绍了一个范式三大实用原则:模型、工程集成和上下文数据。通过标准操作程序(SOP)对这三部分进行精细调整,是打造高效强大 LLM 本地应用的秘诀。
2. 标准操作程序(SOP)
标准操作程序(SOP) 类似于操作手册,详细记录每一步怎么做,确保工作质量一致。在构建 LLM 应用时,我们将模型视为新手,通过 SOP 指导其像专家一样完成任务。

'没有 SOP,再厉害的 LLM 也难以保持一贯的高质量。'
2.1 认知建模
制定 SOP 前,需观察业务专家的工作方式,模仿他们的思考过程,并将每一步记录下来。将复杂任务分解成小步骤,有助于减轻认知负担。
例如,模拟数据分析工作流程时,可以通过访谈了解专家的具体步骤:
- 当需要分析一个业务问题时,你通常会怎么做?
- 你是如何确保你的解决方案完全符合需求的?
- 反馈理解的过程,确认流程覆盖是否完整。
隐性认知过程形式多样,如'业务特定定义'。对于'畅销书'等术语,专家有明确定义,而一般人可能不清楚。绘制流程图有助于清晰展示包含条件选择和分支的复杂环节。

最终解决方案应严格按照 SOP 定义的步骤执行。在设计初期不必过度关注实现细节,可先对整个流程进行模拟。
3. 工程集成
工程集成是实施 SOP 并最大化模型效用的关键。我们需要思考哪些技术工具能帮助我们执行和完善 SOP。

主要涉及两种重要技术:工作流/链路和 Agents。
3.1 LLM 应用架构设计(工作流或链路)
LLM 应用架构描述完成任务的各个流程。每个步骤独立承担特定任务,有些靠固定代码,有些用到 LLM(Agents)。
重新审视 SOP 时需考虑:
- 哪些 SOP 步骤应合并到同一个流程中?
- 哪些步骤应独立执行?







