PythonAI算法
LLM 三角原则解析：简化大模型应用开发的核心指南
LLM 应用开发遵循三角原则，包含标准操作程序（SOP）、工程集成、模型选择及上下文数据。SOP 通过认知建模将专家经验转化为可执行流程；工程集成利用工作流与智能体（Agents）技术实现自动化；模型选择需权衡复杂度、成本与延迟；上下文数据通过嵌入、RAG 及少样本学习增强模型表现。该框架帮助开发者构建健壮、可靠且高效的 LLM 应用，避免过度依赖单一模型，强调工程化落地的重要性。
LLM 应用开发遵循三角原则，包含标准操作程序（SOP）、工程集成、模型选择及上下文数据。SOP 通过认知建模将专家经验转化为可执行流程；工程集成利用工作流与智能体（Agents）技术实现自动化；模型选择需权衡复杂度、成本与延迟；上下文数据通过嵌入、RAG 及少样本学习增强模型表现。该框架帮助开发者构建健壮、可靠且高效的 LLM 应用，避免过度依赖单一模型，强调工程化落地的重要性。
在构建基于大语言模型（LLM）的应用时，许多开发者容易陷入过度关注模型本身的误区。实际上，10% 的复杂度来自于模型本身，而 90% 的工作在于以数据为驱动的工程化作业。将 LLM 应用到实际产品中，不仅需要代码功底，更需要工程上的精磨细打。
LLM 三角原则是一套构建高效 LLM 本地应用的基本指南，由'3+1'个基础组成，即三个核心要素加一个范式。这套原则为开发者提供了清晰的框架和方向，帮助打造出既健壮又可靠的 LLM 应用。
该原则包含三个重要维度：模型、工程集成和上下文数据，并通过**标准操作程序（SOP）**进行精细调整。简单来说，把这三部分通过 SOP 进行标准化处理，就是打造高效强大 LLM 应用的秘诀。
标准操作程序（SOP）是确保工作质量一致性的关键。在构建 LLM 应用时，我们将模型视为新手，通过 SOP 指导它像专家一样完成任务。
'没有 SOP，再厉害的 LLM 也难以保持一贯的高质量。'
制定 SOP 的第一步是观察业务专家的工作方式。我们需要模仿他们的思考过程，记录每一步操作，形成详尽的操作指南。
隐性认知过程往往难以察觉，但对结果影响巨大。例如'业务特定定义'，不同人员对同一术语的理解可能截然不同。我们可以通过访谈来明确这些定义：
将这些隐性知识显性化后，可以绘制流程图。特别是当流程包含条件选择和分支时，图表能更直观地展示环节，确保执行者理解无误。
在设计初期，不必过多关注实现细节，应先对整个流程进行模拟。随着对问题理解的深入，可根据新认识调整模型。与其他原则不同，认知建模是一个独立的过程，建议在动手编写代码之前完成。
工程集成是实施 SOP 并最大化模型效用的关键。我们需要思考哪些技术工具能帮助执行和完善 SOP，确保模型有效满足需求。
LLM 应用架构描述了任务完成的各个流程。每个步骤独立承担特定任务，有些依靠固定代码，有些依赖 LLM（Agents）。
在设计架构时，需明确以下关键属性：
LLM Agents 是调用 LLM 的独立组件。根据是否使用工具，可分为自主 Agent 和非自主 Agent。
一些 LLM Agents 可以利用预定义的工具执行计算或搜索。以下是一个简单的工具调用 Prompt 模板示例：
prompt = """
你扮演的是一个助手，可以使用以下工具：
- calculate(expression: str) -> str - 用于计算数学表达式
- search(query: str) -> str - 用于在库存中搜索项目
接到一个输入后，你需要以 YAML 格式回应，其中包括以下键：`func`(字符串类型) 和 `arguments`(映射类型) 或 `message`(字符串类型)。
给定输入：{user_input}
"""
自主 Agent 拥有决定是否采取行动及其具体行动的权力。相比之下，非自主代理只是简单地'处理'请求，由确定性代码执行具体动作。虽然自主 Agent 看似更智能，但在生产环境中，其调试难度较大且响应质量不稳定。经验表明，在 SOP 中的特定区域限定 Agent 的任务范围，特别是需要创造力的环节，能提高成果质量。
选用的模型是项目成功的关键因素。GPT-4 或 Claude Opus 等大模型虽能提供优质结果，但成本高昂。较小的模型有助于控制预算，且在特定领域能达到预期效果。
在选择模型时，需根据可接受的权衡来评估：
在对模型进行微调前，必须考虑隐私、法律合规、更新延迟及成本。LLMs 作为'上下文学习者'的能力已大大简化了应用实现，因此建议仅在必要时才采用微调。
对于特定任务（如生成结构化 JSON）或特定领域应用，微调小模型可能更高效。如果手头没有标注数据，可先使用大模型收集数据，再通过少样本学习或微调提升性能，但需注意合规风险。
LLMs 是上下文学习的高手。提供相关任务的具体信息，Agent 便能在不经过特殊训练的情况下完成任务。
构建有效的上下文通常采用两种类型：
使用模板引擎（如 jinja2、mustache）可以优雅地构建提示内容。
少样本学习通过在 prompt 中加入准备好的示例，教会 LLMs 新技能。确保示例全面，覆盖各种情况，有助于模型理解复杂场景和细微差异。动态少样本学习可根据特定输入选择最相关的示例，提高性能。
RAG 技术在 LLM 生成回答前先查找相关文档，提供更准确的上下文信息。这对于需要最新数据或专门知识的任务特别有效。
部署 RAG 时需关注：
提供信息时要把握度。过多的无关信息会让模型不堪重负，导致混淆。应保证信息的相关性，减少计算负担，提高任务执行质量。在 RAG 应用中，提取问题和答案并提供给 Agent，或使用算法对检索文档重新排序，都能优化输出结果。
LLM 三角原则提供了一个基础框架，帮助我们在开发产品时发挥 LLMs 的功能。该框架基于三个主要元素：模型、工程集成、上下文数据，以及一套详细的操作步骤（SOP）。
在实际落地过程中，除了理论框架，还需注意以下工程细节：
通过上述方法，组织不仅能超越基本的概念验证阶段，还能开发出强大、准备好上线的 LLM 应用，最大限度地发挥这项技术的潜力。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online