PythonAI算法
大模型应用开发：业务架构与技术架构演进（Embedded 到 Agent）
大模型应用开发主要涉及业务架构与技术架构两个维度。业务架构涵盖 AI Embedded、Copilot 及 Agent 三种模式，分别对应辅助提效、串联应用与自主任务执行。技术架构包括纯 Prompt 交互、Function Calling 工具调用、RAG 检索增强生成及模型微调。选择技术路线需结合需求复杂度、成本及稳定性考量。详细解析了各类架构特点及适用场景，为开发者提供选型参考。
大模型应用开发主要涉及业务架构与技术架构两个维度。业务架构涵盖 AI Embedded、Copilot 及 Agent 三种模式，分别对应辅助提效、串联应用与自主任务执行。技术架构包括纯 Prompt 交互、Function Calling 工具调用、RAG 检索增强生成及模型微调。选择技术路线需结合需求复杂度、成本及稳定性考量。详细解析了各类架构特点及适用场景，为开发者提供选型参考。
在大模型的定义概念及应用层涉及的一些基础概念已得到广泛了解后，RAG、Agent 等术语在开发中的具体含义也需进一步明确。本文重点阐述随着大模型的广泛应用，这些概念是在何种体系和场景下衍生的；基于 LLM，目前主流的业务架构和技术架构形态是怎样的。开发者在了解这些架构模式后，可根据现实业务需求选择合适技术路线。
软件开发通常分为基础设施层与应用设施层两大部分。大模型领域同样遵循这一规律：
我们大多数人将集中在应用层进行开发，掌握相关技术已成为应对技术革新的必要能力。
在实际落地场景中，广泛使用或不断迭代演进的架构主要围绕以下三种类型展开：
该场景易于理解，即在传统应用的特定环节中加入 LLM 能力，辅助完成提效任务。例如在客服系统中嵌入智能问答模块，或在代码编辑器中提供自动补全功能。这种模式下，LLM 作为局部增强组件存在。
此模式在系统应用中广泛集成 LLM 能力，并通过应用界面进行串联。这是目前使用最广泛的模式，如 Microsoft Copilot、GitHub Copilot 等。在这些场景中，用户并不完全依赖算法结果进行最终决策，LLM 更多作为信息收集来源和参考依据。相比传统搜索引擎，Copilot 侧重于效率提升，交互形态虽未发生本质变化，但人机协作深度显著增加。
与前两种模式不同，AI Agent 模式下人仅需提出要求和指令，AI 可自动拆解任务并执行。这标志着从'人主导'向'AI 自主执行'的转变。
在大模型领域，LLM 替代了传统 Agent 中的规则引擎及知识库，提供了推理、观察、批评和验证的对话通道。
常见的 Multi-Agent 框架包括 BabyAGI（任务管理系统，采用静态对话模式）、CAMEL（角色扮演通信框架）、Multi-Agent Debate（鼓励发散思维，改善事实性和推理）以及 MetaGPT（基于对话框架的自动软件开发）。Autogen 则是专为 Agent 开发而设计的应用框架，支持更灵活的协作模式。
最基本的对话式交互，用户输入提示词，模型直接输出回复。这种方式简单直接，适用于逻辑简单、无需外部工具调用的场景。但受限于上下文窗口和模型幻觉问题，稳定性较差。
这种架构增强了模型的工具使用能力，使其能连接外部数据源和执行操作。
检索增强生成技术旨在解决大模型知识滞后和幻觉问题。
场景类比：考试时看到题目，先查阅教材相关内容，再结合题目组织答案。这种方法显著提升了回答的准确性和时效性。
针对特定领域或任务对基座模型进行参数调整。微调可以优化模型在特定领域的表现，使其更符合业务规范。
面对具体需求，选择技术方案可参考以下思路：
许多初学者认为 Fine-tuning 非常高级，但在实际工作中，基础应用场景用好提示工程往往足够。以下情况建议考虑微调：
本文从大模型目前应用的典型业务架构和技术架构进行了分析，帮助读者初步了解 LLM 的使用方式。开发者在实际落地场景中，可对照上述架构分析自身需求，建设合适的业务架构和技术架构，并选择最优技术路线。未来随着多模态和自主智能的发展，架构形态还将持续演进，保持技术敏感度至关重要。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online