企业应用探秘：大模型 AI Agent 的六种基础类型

知识助手通常借助于大模型的 RAG（检索增强生成）方案来实现，其本质上也是一种提示工程：**借助于在大模型输入时携带相关的私有知识上下文，让大模型理解、总结、整理并回答用户问题。**只是这里的私有知识上下文需要借助嵌入模型（Embedding Model）、向量数据库（Vector Store）、文档加载分割（Document Loader&Splitter）等相关技术来获得。

技术实现基础架构

1. 文档处理：将非结构化文档（PDF, Word, TXT）转换为文本块（Chunks）。
2. 向量化：使用 Embedding 模型将文本块转换为向量。
3. 存储：将向量存入向量数据库（如 Milvus, Pinecone, Chroma）。
4. 检索：根据用户查询进行相似度搜索，召回相关片段。
5. 生成：将召回片段作为 Context 输入 LLM，生成最终答案。

推荐工具

基于 RAG 方案的 AI 助手实现可以自行通过代码直接实现，当然，为了简化开发与管理过程，推荐使用的工具包括：

• LangChain 或者 LlamaIndex 大模型主流应用开发基础框架。这两个基础框架对大量的模型、文档加载器、向量数据库、嵌入模型等做了抽象封装，并对 RAG 应用过程中的知识检索、Prompt 组装等过程做了简化，可以大大简化开发过程。
• 另一类是具备一定开箱即用能力的 RAG 应用构建平台。相对基础开发框架来说，提供了更完善的 RAG 应用构建工具，比如私有知识库的管理维护、测试、对话流程编排、提示词自定义等能力。这里推荐两个项目，一个是基于 Langchain 构建的 Langchain-Chatchat；另一个是 FastGPT，后者有用于商业运营的 SaaS 应用，可以自行体验。

三、数据分析助手

数据分析与商业智能 (BI) 在中大型企业的日常运营中的重要性毋庸置疑，无论是简单的财务数据分析，还是复杂的客户与运营数据洞察，都需要借助专业的工具。传统 BI 工具使用门槛高、过度依赖技术部门、结果产出周期长的问题在 AI 时代可以借助大模型的能力得以缓解。

基于大模型的数据分析助手（Data Agent）是在企业应用中通过将自然语言转换成数据分析的语言或代码，比如对 API 的调用、对数据库的访问、甚至编写数据分析代码，来达到获取数据、分析数据与可视化结果的目的。

技术途径

无论是对本地的 Excel 数据文件分析，或者对数据库中的关系型数据分析，又或者对互联网的非结构化数据分析，当前大模型实现数据分析的技术途径基本以这三种方式为主：自然语言转 API、转 SQL、以及代码解释器（转代码）。

推荐工具

这里推荐几个除 Langchain 之外构建数据分析助手的工具与项目：

• DB-GPT：一个国内团队的以重新定义数据交互为使命的强大开源项目，包含完整的前后台项目实现，实现了多场景下的交互数据分析。包括数据库分析、Excel 分析、仪表盘分析等，该项目的另一个特点是后端大模型的可伸缩管理架构。另外还有一个专注于微调 Text2SQL 模型与评估的开源项目。
• OpenAgents：一个来自香港团队的开源项目，Data Agent 是其中一个重要的 Agent 实现。当前主要实现了对本地结构化数据文档的数据分析，其特点是提供了两种数据分析方法供选择，一种是基于 SQL，一种是基于代码解释器。
• OpenInterpreter：当前最强大的开源代码解释器，完美地复刻了 OpenAI 的代码解释器实现，但是可以完全在本地部署与使用，利用它来实现本地的数据分析与可视化是一个不错的选择。

风险提示

需要注意的是：数据分析助手严重依赖大模型对自然语言转数据操作的能力（SQL 或 Python 代码等）。当然条件下，即使是针对这种场景专门优化的模型与提示工程，其失败概率也很高（比如 Text2SQL 目前最高成功率在 80% 左右）。因此，在实际实施中需要根据场景、复杂性、可靠性要求做综合评估。建议引入人类确认环节（Human-in-the-loop）来验证生成的 SQL 语句或代码逻辑。

四、应用/工具助手

企业应用中的 AI 助手很多时候需要与现有应用（CRM、OA 系统）做集成与交互，以完成某个用户任务或者驱动业务流程。比如：如果你需要 AI 帮你在协同办公系统中提交一个付款申请，那么你需要调用办公系统的接口；或者你需要借助互联网获得最新某上市公司的财务报告，你需要调用第三方平台的公开接口。这就是 AI Agent 另一项重要能力：工具使用。

**AI 应用/工具助手就是能够把自然语言转换成对企业应用或者互联网开放 API 调用的一种基础 Agent 形式。**当然，在复杂任务场景下的这种调用往往不是单一的。其基础架构与原理涉及 Function Calling 机制。

核心挑战

应用助手的基本原理是比较简单的，其复杂性主要体现在大模型对自然语言转 API 的能力，在实际使用中，其主要体现以下两个方面：

1. 能否根据上下文理解，精确匹配到需要使用的 API（一个或者多个）
2. 能否准确地提取或生成每个 API 的调用参数

在实际测试中我们发现不同的大模型在这方面的能力是有较大的差异的，而且即使是最优秀的模型，也存在一定的不确定性，比如有时候无法判断出正确的工具。

工程优化方案

在构建企业基于大模型的应用助手时，有一些工程问题是需要考虑的，这些问题在做原型或者测试时容易被忽视：

• 企业中 API 过多的优化方案。由于需要通过 Prompt 提示 LLM 这些 API 信息，过多的 API 描述可能会导致上下文溢出；而且大量的 API 相互干扰，会提高大模型推理时的错误率。之前我们介绍过一种优化方案：借助向量库语义搜索，每次只检索出本次任务相关的 API 描述，再交给 LLM 处理。
• 需要设计一个标准化的、容易扩展、易于插拔的工具/插件架构。即能够灵活快速地扩展 Agent 的'工具包'，在增加新的工具时，通过简单的配置甚至自动化生成，即可给 Agent 动态赋予新的工具能力。

构建工具推荐

• LangChain：LangChain 中的 Agent 组件，通过组装多个 Tools，封装与简化了大模型使用工具的过程，可以让你专注于 Tools 的创建即可。
• Assistants API：这是 OpenAI 官方最新放出构建 AI 助手的 API，如果你条件具备，也可以基于此构建企业 AI 助手，充分利用其强大的 gpt4 模型。其中对工具的使用主要体现在其对 Function Calling 功能的支持。
• OpenAgents：该项目中的 Plugins Agent 实现了对大量开放 API 的智能使用，并且可以灵活配置增加新的 Plugin，可以参考其实现。
• 集简云：类似海外 Zapier 的平台。该平台对接了国内大量的 SaaS 应用与互联网平台作为'工具'。因此，你可以通过简单的配置后，在你的 AI 助手中通过 API 来对接这些工具，可以大大拓展你的 AI 助手的'工具库'。

五、Web 操作助手

一种类似 RPA（机器人流程自动化）的 AI 智能体。其主要能力是**自动化 Web 网络浏览、操作与探索的动作与过程，以简化 web 浏览访问与操作。对于个人来说，可以作为个人数字助理，简单对话即可让 AI 帮你完成 Web 浏览与操作，比如在线订票。而对于企业来说，则可以作为企业的数字员工，来简化企业日常工作中重复性较高、流程与规则固定、大批量的前端操作性事务。**比如批量订单处理、批量客户联络、批量网站抓取等，提高效率，降低错误率。

RPA vs AI Agent

传统的 RPA 机器人也是用来完成此类工作的 AI 形式，由于这种 AI 机器人工作在软件的最上层即操作层面，好处是流程直观、简单、也可以配置化，且对应用无侵入性；但其缺点是与前端应用耦合性大，每个任务需要根据前端应用界面做精心配置与调试，自适应能力较差。

在大模型出现以后，给这一类 RPA 智能也带来了新的优化空间。利用大模型的理解与分析推理能力，可以让 AI 更加智能的规划与分解任务过程，然后借助浏览器完成执行；且在未来可以利用像 GPT-4V 这样的视觉模型，更智能的理解界面元素与功能，实现完全自主的智能操作，具备更强的自适应能力。

实现原理

实现一个自主 Web 操作的 Agent 的基础原理与架构涉及浏览器自动化技术。构建一个真实应用的 Web Agent 需要借助浏览器自身能力。由于外部应用无法直接接管浏览器实现操作，一般需要借助浏览器插件，比如 Chrome 扩展，借助浏览器 API 完成网站导航与自动化网页操作，比如点击界面元素，或者输入表单。

我们前面介绍到的 OpenAgents 项目中的 Web Agent 是一个基于 Chrome 浏览器与扩展而实现的一个 LLM Agent，可以参考用作参考。当然由于大模型的输出不确定性，当前的 Web Agent 仍然处于探索实验阶段，具有较大的失败或误操作可能，实际应用中需要根据情况反复测试与评估。

六、自定义流程助手

最后一种 AI Agent 严格来说是上面的几种基础 Agent 能力的组合。

理想中的 AI Agent 是在丢给他一个工具包与一些知识以后，借助于大模型的理解、推理能力，完全自主的规划与分解任务，设计任务步骤，并智能的使用各种工具，检索知识，输出内容，完成任务。但是在企业应用中，由于企业知识、应用、业务需求的千差万别，以及大模型自身的不确定性，如果这么做，那么结果很可能是'开盲盒'一样的不可控。所以这也是越来越多的 Agents 项目要强调可控性的原因，即能够对 AI 智能体的执行过程与细节进行更多的控制，来让 AI 按照人类确认过的工作流程来完成任务。

流程控制要素

比如之前我们介绍的 HR 简历自动化筛选的场景中，你可能需要更加细致的去定义整个自动化工作流程，包括：

1. 主要的工作步骤与目标设定
2. 每个步骤使用的大模型
3. 每个步骤可以使用的工具
4. 可以输入与携带的知识与文档
5. 其他必要的限定与指令

在实际应用中，这样基于 LLM 的工作流既可以是直接面向使用者的对话机器人来触发；也可以是完全后台触发。

实现工具

实现这样的自动化工作流程 AI 智能体，除了借助 Langchain/LlamaIndex 这样的 LLM 开发框架直接定制外，还可以参考或利用一些开源项目：

• 借助类似Flowise 或者 FastGPT这样的具有 LLM 流程可视化编排能力的框架或平台，可以更加直观简单地定制任务流程。
• 借助类似SuperAGI这样可快速简单化定制 LLM 流程的 Agent 框架来实现。

七、总结与对比

为了更清晰地理解这六种 AI Agent 类型的区别与适用场景，我们可以通过下表进行对比：

八、结束语

以上，我们对企业应用中的大模型 AI Agent 从技术原理层面区分的几种类型做了简单探讨。实际上里的每一种类型也都是一个可以深入的复杂话题，其中部分类型在之前的文章中也展开深入过，后续我们也会关注 AI Agent 技术趋势与发展，并在未来做持续分享。

随着技术的演进，未来的 AI Agent 将不再是单一功能的工具，而是趋向于多模态、自主规划、长期记忆的超级智能体。企业在引入 AI Agent 时，应重点关注数据安全、可控性以及与实际业务流程的融合深度，避免盲目追求技术热点而忽视了业务价值的落地。