探讨了 LLM 时代下的智能体技术，涵盖定义、架构、核心组件及发展趋势。智能体具备学习、推理、决策和执行能力，LLM 的涌现能力使其具备更强的泛化性。文章详细解析了智能体的四大核心部分：用户请求、大脑、规划和记忆，并深入拆解了反思、工具使用、规划及多智能体协作等组件。文中列举了 Horton、ChatDev 等知名案例，介绍了 LangChain、AutoGen 等主流开发框架，并分析了幻觉、安全、成本等挑战及应对方案。最后总结了智能体作为未来前沿方向的重要性及其在垂直领域的应用潜力。
智能体（AI Agents 或 Agents）是指能够通过行动能力自主完成设定目标的代理系统。这一概念与'智能'密不可分，它具备类似人类的智能能力和行为模式，包括学习、推理、决策和执行能力。
早在 LLM（大语言模型）普及之前，智能体的概念就已经存在。Agent 的概念最早起源于 M. Minsky（AI 之父之一）于 1986 年出版的《Society of Mind》一书，这也是神经网络热潮开始的年份。当时，智能体主要指基于规则或强化学习的程序。然而，随着 LLM 的出现及其涌现能力的展现，人们发现可以基于 LLM 打造更强大的智能体。近期，WebGPT、ChatDev、Toolformer、Devin、MetaGPT 等 AI Agents 产品层出不穷，标志着智能体技术进入了新的发展阶段。
LLM 为 AI Agents 的底层提供了一个突破性的技术方案。过去，强化学习基于深度学习框架可以让 Agent 学到技能，但 Agent 本身并没有真正理解问题和技能，泛化性较差，通常只能用于特定领域，例如游戏和制作低维控制/计划，代表性应用是围棋领域的 AlphaGo。而 LLM 带来了深度学习的新范式，其思维链（Chain of Thought）和强大的自然语言理解能力有望让 Agents 具备强大的学习能力和迁移能力，从而让创建广泛应用且实用的 Agents 成为可能。
2023 年 11 月，OpenAI 上线 GPTs 功能，全球 AI 开发者闻风而动；2024 年 1 月，OpenAI 正式上线 GPT Store，开启了构建 AI 智能体的风潮。人工智能著名学者、斯坦福大学教授吴恩达指出，AI Agents 工作流将在今年推动人工智能取得巨大进步，甚至可能超过下一代基础模型。这是一个重要的趋势，他呼吁所有从事人工智能工作的人都关注 AI Agent 工作流。
由于生成式 LLM 存在幻觉问题，记忆力短，在实际应用中难以保持长期一致性和准确性，且 Agents 间合作也是重要趋势。除了等待基座模型自身迭代之外，借助外部力量（如向量存储、检索增强生成 RAG、代码执行等）是重要方法。完整的 Agents 框架应该具备这些能力。我们认为补齐了大模型短板的 AI Agents 更具备实用性，将是大模型重要的落地方向。前特斯拉总监、OpenAI 科学家 Karpathy 公开表示：'如今 AI 智能体才是未来最前沿的方向'，'相比大模型训练，OpenAI 内部目前更关注 Agents 领域'。LLM 时代下的智能体也是现在很多应用的发展方向，逐渐成为下个 APP 的趋势。
一个大语言模型智能体框架通常包含以下四个核心部分（注：这不是 AI Agents 的所有模块，目前 AI Agents 也在不断发展中）：
通过这些组成部分的协同工作，大语言模型智能体能够处理从简单到复杂的各种请求，不仅能够提供直接的答案，还能解决需要深度分析和多步骤操作的问题。这种智能体的能力，使其在处理复杂信息查询、数据分析和可视化表示等方面具有巨大潜力。
第 3 节提到 Agent 最重要的三大组件：规划、记忆、工具，每个组件可以进一步进行拆分。深入智能体，要求我们有基本的提示词工程经验。
结合吴恩达近期发表的言论，他将 AI Agents 框架分为四个方面：
LLM 检查自己的工作，以提出改进方法。通过自我评估和修正循环，减少错误输出，提高任务完成的准确率。
LLM 拥有网络搜索、代码执行或任何其他功能来帮助其收集信息、采取行动或处理数据。这允许智能体与外部环境交互，获取实时信息或执行具体操作。
LLM 提出并执行一个多步骤计划来实现目标。例如，撰写论文大纲，然后进行在线研究，然后撰写草稿。这涉及任务分解、路径选择和动态调整。
类似分而治之，利用每个 Agent 在特定领域的优势，多个 AI Agent 一起工作，分配任务并讨论和辩论想法，以提出比单个智能体更好的解决方案。其中多 Agents 协作，也是目前开源 Agents 工具和有关 Agents 的学术研究正在探索的方向之一。
现在已经有很多著名的大语言智能体，包括但不限于以下智能体：
| 名称 | 说明 |
|---|---|
| Horton | 通过给予基于大语言模型的智能体以'资产、偏好及个性'，模拟人类在经济行为场景中的决策过程。 |
| 盲审 | 利用多个语言模型模拟法官的判决过程，其对现实世界最高法院裁决的预测准确度高于随机水平。 |
| ChemCrow | 描述了一个专注于化学领域的大语言模型智能体，该智能体能够独立规划并执行驱虫剂、有机催化剂的合成及新型色素的开发。 |
| EduChat | 专为教育领域设计的两个杰出的大语言模型智能体。类似的还有 CodeHelp。 |
| ChatDev | 展示了 AI 智能体在自动化编程、调试、测试及支持软件工程其他任务方面的潜力。类似的还有 ToolLLM、MetaGPT。 |
| Mehta | 提出了一种互动框架，允许建筑师与 AI 智能体合作，在三维模拟环境中设计建筑。 |
| OS-Copilot | 提供了一个创新框架，旨在打造能够全面操作操作系统 (OS) 的通用智能体，这些智能体能够灵活应对网络浏览、编码操作、文件管理、多媒体处理及与众多第三方应用的交互。 |
在实际开发中，开发者通常会借助成熟的框架来构建智能体，以降低开发门槛并提高效率。
LangChain 是目前最流行的 LLM 应用开发框架之一。它提供了丰富的接口和组件，使得开发者可以轻松地将 LLM 与外部数据源、工具和其他服务连接起来。LangChain 的核心概念包括 Chain、Memory、Agents 和 Tools。通过 LangChain，开发者可以快速构建出具备记忆能力和工具调用能力的智能体。
AutoGen 是由微软推出的一个开源框架，专注于多智能体对话和协作。它允许开发者定义不同的角色（如程序员、产品经理、测试员），并让这些角色自动进行对话以完成任务。AutoGen 特别适用于需要多方协作的复杂任务场景。
CrewAI 是一个基于角色的多智能体编排框架。它强调通过定义角色、目标和工具来构建团队智能体。CrewAI 简化了多智能体之间的沟通和任务分配流程，使得构建复杂的智能体工作流变得更加直观。
尽管智能体技术前景广阔，但在实际落地过程中仍面临诸多挑战。
LLM 容易产生幻觉，即生成看似合理但事实错误的信息。解决方案包括引入检索增强生成（RAG）机制，确保回答基于真实数据；使用验证器对输出结果进行二次校验；以及在提示词中明确约束模型的行为边界。
智能体拥有执行代码或访问外部系统的权限，这可能带来安全风险。例如，恶意 Prompt 可能导致智能体执行危险操作。解决方案包括实施严格的沙箱环境、限制智能体的权限范围、以及引入人工审核机制（Human-in-the-loop）。
频繁调用 LLM API 会产生较高的成本，且网络延迟可能影响用户体验。优化方案包括缓存常用查询结果、使用小模型处理简单任务、大模型处理复杂任务的分层策略，以及本地部署轻量级模型。
在多轮对话或长周期任务中，保持智能体行为的一致性至关重要。这需要强大的记忆管理机制，包括短期记忆（当前会话上下文）和长期记忆（向量数据库存储的历史经验）。通过有效的记忆检索，智能体可以记住之前的约定和偏好。
大模型时代的 AI Agents = LLM（核心控制器，构建核心能力）+ 规划能力 + 记忆 + 工具 + 反思 + 协作。
这个时代关于 Agents 的学术文献正在激增。AI Agents 也在不断发展，AI Agents 的组件或者架构也在不断丰富，但是作为 AI Agents 的基座模型能力至关重要。未来的智能体将更加自主、更加协作，并且能够处理更加复杂的现实世界任务。随着技术的成熟，智能体将从辅助工具逐渐演变为独立的数字员工，深刻改变我们的工作方式和生活方式。
对于开发者而言，掌握智能体的构建原理和开发框架是进入这一领域的关键。建议从 LangChain 或 AutoGen 入手，理解 Agent 的基本工作流，逐步尝试构建具备特定功能的智能体。同时，关注行业内的最新研究成果，保持对新技术的敏感度，以便在未来的 AI 浪潮中占据有利位置。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
