跳到主要内容吴恩达详解 AI Agent 四步设计：反思、工具、规划与多智能体协同 | 极客日志编程语言AI算法
吴恩达详解 AI Agent 四步设计：反思、工具、规划与多智能体协同
AI 代理（Agent）正从科幻走向现实，以 Devin 为代表的 AI 软件工程师引发行业关注。吴恩达提出基于 GPT-3.5 的 Agent 工作流可超越 GPT-4，甚至 GPT-5。其核心包含四种设计模式：反思（Self-Refine, Reflexion）、运用工具（Gorilla, MM-REACT）、规划（CoT, HuggingGPT）及多智能体协同（ChatDev, AutoGen）。这些模式通过迭代优化、API 集成、思维链推理及角色协作，显著提升复杂任务处理能力，推动通用人工智能发展。
有不少科幻片描绘了这样的世界：数字实体执行一座城市的所有任务，人工智能可以与数字世界甚至物理世界的一切事物进行交互，不断学习和适应新环境，周围的人对此司空见惯，仿佛一切都理应如此……
现在，随着 AI Agents 的应用浮出水面，这种幻想逐渐走入了现实。Agent 可以翻译为'代理'，在 AI 领域有了'智能体'这一含义，是当前人工智能技术的发展方向，它可以代表用户执行任务并做出决策，具有高度的自主性和适应性。
Devin 及其生态
今年 3 月 12 日，美国创业公司 Cognition Labs 推出了号称「全球首位 AI 软件工程师」的 AI Agent —— Devin。不同于我们在前两年看到的 GitHub Copilot 等 AI 编程助手，Devin 并非单纯辅助的角色，而是能够完全独立、端到端地完成整个开发项目，包括从编写代码、修复 Bug 到最终执行的完整编程生命周期。
随后的这两个月里，无数的 Devin 模仿者横空出世。无论闭源到开源，每一位都强调要'对标 Devin'，甚至每一位都只能叫做'Devins'或是'类 Devin 工具'掀起了一股 Agent 浪潮：
此外，还有许多早于 Devin 诞生的 Agent。比如张海龙的 Babel，是 Devin 的直接竞品，其团队更是目前国内唯一一个聚焦 Coding Agent 的初创企业。
GPT-Pilot，这一开源项目在 GitHub 已有 27k 的 star，早在 2023 年便已经问世。
https://github.com/Pythagora-io/gpt-pilot
相关免费在线工具
- 加密/解密文本
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
- RSA密钥对生成器
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
- Mermaid 预览与可视化编辑
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
- Base64 字符串编码/解码
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
- Base64 文件转换器
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
- Markdown转HTML
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
随着类 Devin 工具的'扎堆'发布，编程领域的 Agent 已经为所有开发者展现了强大的能力。但想实现真正的 AGI（通用人工智能），只让 Agent 会编程显然还是不够的，除了'AI 程序员'，我们还需要各司其职的其他 Agent（比如'AI 数据科学家'、'AI 物理学家'、'AI 技术委员会'……）协同工作。
最近，机器学习先驱、Google Brain 联合创始人、斯坦福大学计算机科学系和电气工程系的客座教授吴恩达 (Andrew Ng) 在红杉资本的 AI Ascent 活动上发表了一场演讲，大谈 AI Agents。
如今，每个人工智能产品都有其局限性，但吴恩达认为，在精心设计的 Agent 工作流程（workflow）中使用多个 Agent，可以在现有模型中产生'次时代'级别的性能。所以，基于 GPT-3.5 构建的 Agent 工作流程，在应用中的表现能比 GPT-4 要好。同理，GPT-4 + Agent > GPT-5。
为了驱动 AI Agents 工作流程的重大进展，吴恩达在演讲中提出了四种设计模式：反思、运用工具、规划、多智能体协同。每种设计模式引用了两篇论文，一共八篇。
1. 反思（Reflection）
你或许曾遇到过与 ChatGPT / Claude / Gemini 交流时，对初次得到的答案并不满意，通过提供有针对性的反馈帮助 LLM 改进回应，从而获得更好答案的情况。设想一下，如果能够自动化反馈这一环节，让模型自行检视其输出并据此改进，这就构成了'反思'的实质。
这篇论文的主要思想是利用大语言模型（LLM）生成初步输出，然后让该 LLM 对自己的输出提供反馈，并以此为基础进行迭代优化。他们的研究表明，即便是像 GPT-4 这样的尖端大语言模型，也可以通过我们这种简洁独立的方法在测试阶段进一步提升性能。自我完善（SELF-REFINE）全程都在单一 LLM 内运行，既不需要额外的训练数据，也不依赖强化学习。
论文作者提出了一种名为'Reflexion'的新框架，它不是通过更新权重来强化语言智能体，而是通过语言反馈来实现。具体来说，'Reflexion'智能体会对任务反馈信号进行口头反思，并将其自身的反思文本存储在一个事件记忆缓冲区中，以便在后续试验中引导更好的决策制定。
在 HumanEval 编码基准测试中，Reflexion 取得了 91% 的一次性通过准确率，超过了先前最先进的 GPT-4 所达到的 80% 水平。
2. 运用工具（Tool use）
LLMs 不仅能够生成文本，还能动态生成并执行代码片段来解决问题或获取信息，集成工具和功能，实现跨不同领域的信息处理与操作，显著提升工作效率和个人生产力。
早先关于工具使用的探索，在很大程度上受到了计算机视觉研究的启发。因为在大语言模型具备处理图像能力之前，它们局限于文本和语言的理解与生成。因此，研究人员促使 LLMs 生成能与图像交互的函数代码，如图像生成或目标识别等任务。
回顾相关文献，我们会发现许多工具使用的研究案例最初是在视觉应用上取得突破，因为当时的 LLMs 尚不具备直接处理图像信息的能力。随着 GPT-4 和 LLaMA 等更强大模型的出现，LLMs 开始与各类工具紧密结合，从而拓宽了其应用场景，实现了对非文本信息资源的有效利用。
Gorilla 是一个基于 LLaMA 的微调模型，在编写 API 调用方面超越了 GPT-4 的性能。当 Gorilla 模型与文档检索系统相结合时，展现了强大的适应能力，能够灵活应对测试期间文档的变更，支持用户进行及时更新或版本切换。同时，它极大地减少了直接提示 LLMs 时常遇到的幻觉问题。为了评估模型在这方面的能力，我们构建了一个全面的数据集——APIBench，该数据集包含了 HuggingFace、TorchHub 和 TensorHub 等 API 的示例。
MM-REACT 是一种由众多视觉专家模块与 ChatGPT 组成的系统范例，用于多模态推理和行动。它提供了一种简单而灵活的方法，为 LLMs 提供视觉专家模块库。
为了实现这种高级的视觉智能，MM-REACT 引入了一种文本提示设计方法，该方法可以表示文本描述、文本化空间坐标以及与密集视觉信号（如图像和视频）对齐的文件名。这样设计的提示使得语言模型能够接收、关联并处理多模态信息，从而促进了 ChatGPT 与各种视觉专家模块之间的协同配合。
3. 规划（Planning）
吴恩达曾经进行过现场演示，AI Agents 会重新规划路径来规避失败。他曾经从一篇关于 GPT 模型的论文中改编过一个例子，即让 GPT 生成一张女孩正在读书的图片，与图片中的男孩姿势一致。利用现有的 AI Agents，我们可以决定首先确定男孩的姿势，然后在 HuggingFace 上找到合适的模型来提取姿势。接下来，只需要找到一个后处理图像的模型，合成一张根据指令的女孩的图片，然后使用图片转化为文本，最后使用文本转化为语音的技术……
如今 Agent 在面对挑战时能灵活调整策略，即便偶有失败也能从中恢复，已在实践中被用于加速研究与决策过程，成为个人工作流程中不可或缺的部分。
仅靠增大模型规模并不足以确保大型语言模型在诸如算术、常识推理和符号推理等复杂任务上取得高水准表现。因此，Jason Wei 等人在论文中呈现了一系列实证评估，于算术、常识及符号推理基准测试中表明，思维链提示法相较于标准提示法表现出更优性能，有时甚至显著提升。
对于许多采用标准提示法其性能随模型规模增长而趋于平缓的推理任务而言，采用思维链提示法则能够显著提高规模增长曲线，带来性能上的大幅提升。
HuggingGPT 能够解决一系列跨越不同模态和领域的复杂 AI 任务，并在语言、视觉、语音以及其他难题上取得令人瞩目的成果，为实现通用人工智能开辟了全新途径。HuggingGPT 的机制是通过 LLM 组织模型间的协作，使其能够应对任何模态或任何领域中的任务。
只需提供模型描述，HuggingGPT 就能够不间断地便捷整合来自 AI 社区的各种专家模型，无需改变任何结构或提示设置。
4. 多智能体协同（Multi-agent collaboration）
顾名思义，让多个模拟的 AI Agents 协同工作。
ChatDev 在软件生成方面的工具性分析显示，其能够在不到七分钟的时间内以低于一美元的成本完成整个软件开发流程。在每个开发阶段，ChatDev 都会调动多个具有不同职责的'软件智能体'，如程序员、审查员和测试员。
在聊天链中，每一个节点代表一个特定的子任务，两个角色根据上下文进行多轮互动讨论，提出并验证解决方案。因此，这项技术特别适用于开放且创新性强的软件生产场景，在这些场景中，允许一定程度的变化和多样性。
鉴于可以从 LLMs 受益的任务范围不断扩大以及任务复杂性的日益增长，当前有一种直观的提升智能体能力的方法，那就是采用能相互协作的多个智能体。
实践中，不同复杂程度的应用可能需要具备特定能力的不同智能体集合，并且可能要求不同的对话模式，例如单轮或多轮对话，不同程度的人类介入方式，以及静态与动态对话过程。
当配置得当时，一个智能体能够自主地与其他智能体进行多轮对话，或者在特定环节中征求人类输入，从而实现了人机协作与自动化。
AutoGen 的采用已经带来了性能上的提升（超过了现有最先进的方法），减少了开发代码量，并减轻了现有应用的手动负担。随着研究者对 AutoGen 的进一步开发和完善，他们的目标将是研究诸如智能体拓扑结构和对话模式等策略，如何引导出最有效的多智能体对话，同时优化整体效率和其他相关因素。
综上所述，AI Agent 正在重塑软件开发与人工智能应用的边界。通过反思、工具使用、规划及多智能体协同这四大支柱，结合具体的论文实践，开发者可以更有效地构建具备高度自主性的智能系统。未来，随着模型能力的增强和架构的优化，Agent 将在更多垂直领域发挥关键作用，推动技术向 AGI 迈进。
