通用 LLM Agent 构建指南：从基础到进阶

2.3 定义智能体的核心指令

我们往往认为大语言模型开箱即用就带有许多功能。其中一些功能很棒，但其他功能可能不完全符合你的需求。为了获得你期望的性能，在系统提示中明确列出你想要和不想要的所有功能非常重要。

这可能包括以下指令：

• 智能体名称和角色：智能体的名称以及它的用途，帮助模型建立身份认同。
• 语气和简洁性：它应该听起来多么正式或随意，以及应该多么简短。
• 何时使用工具：决定何时依赖外部工具而不是模型自身的知识，防止幻觉。
• 处理错误：当工具或过程出现问题时，智能体应该怎么做，例如重试机制或报错反馈。

示例：以下是 Bee Agent 框架中指令部分的一个片段：

# Instructions
User can only see the Final Answer, all answers must be provided there.

{{^tools.length}}
You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by Final Answer.
{{/tools.length}}

{{#tools.length}}
You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by either Function Name or Final Answer.
You must use Functions to retrieve factual or historical information to answer the message.
{{/tools.length}}

If the user suggests using a function that is not available, answer that the function is not available. You can suggest alternatives if appropriate.
When the message is unclear or you need more information from the user, ask in Final Answer.

# Your capabilities
Prefer to use these capabilities over functions.
- You understand these languages: English, Spanish, French.
- You can translate, analyze and summarize, even long documents.

# Notes
- If you don't know the answer, say that you don't know.
- The current time and date in ISO format can be found in the last message.
- When answering the user, use friendly formats for time and date.
- Use markdown syntax for formatting code snippets, links, JSON, tables, images, files.
- Sometimes, things don't go as planned. Functions may not provide useful information on the first few tries. You should always try a few different approaches before declaring the problem unsolvable.
- When the function doesn't give you what you were asking for, you must either use another function or a different function input.
- When using search engines, you try different formulations of the query, possibly even in a different language.
- You cannot do complex calculations, computations, or data manipulations without using functions.

2.4 定义和优化核心工具

工具赋予智能体超能力。通过一组定义明确的有限工具，你可以实现广泛的功能。关键工具包括代码执行、网络搜索、文件读取和数据分析。对于每个工具，你需要定义以下内容并将其作为系统提示的一部分：

• 工具名称：功能的唯一、描述性名称。
• 工具描述：清晰解释工具的作用以及何时使用它。这有助于智能体确定何时选择正确的工具。
• 工具输入模式：一个模式，概述必需和可选参数、它们的类型以及任何约束。智能体根据用户查询使用此模式填写所需的输入。
• 指向运行工具的位置 / 方式：后端如何实际执行该工具。

示例：以下是来自 Langchain 社区的 Arxiv 工具实现的摘录。此实现需要一个 ArxivAPIWrapper 实现。

"""Tool for the Arxiv API."""
from typing import Optional, Type
from langchain_core.callbacks import CallbackManagerForToolRun
from langchain_core.tools import BaseTool
from pydantic import BaseModel, Field
from langchain_community.utilities.arxiv import ArxivAPIWrapper

class ArxivInput(BaseModel):
    """Input for the Arxiv tool."""
    query: str = Field(description="search query to look up")

class ArxivQueryRun(BaseTool):  # type: ignore[override, override]
    """Tool that searches the Arxiv API."""
    name: str = "arxiv"
    description: str = (
        "A wrapper around Arxiv.org "
        "Useful for when you need to answer questions about Physics, Mathematics, "
        "Computer Science, Quantitative Biology, Quantitative Finance, Statistics, "
        "Electrical Engineering, and Economics "
        "from scientific articles on arxiv.org. "
        "Input should be a search query."
    )
    api_wrapper: ArxivAPIWrapper = Field(default_factory=ArxivAPIWrapper)  # type: ignore[arg-type]
    args_schema: Type[BaseModel] = ArxivInput

    def _run(
        self,
        query: str,
        run_manager: Optional[CallbackManagerForToolRun] = None,
    ) -> str:
        """Use the Arxiv tool."""
        return self.api_wrapper.run(query)

在某些情况下，仍需要优化工具以获得期望的性能。这可能涉及通过一些提示工程调整工具名称或描述，设置高级配置来处理常见错误，或者过滤工具的输出以防止污染上下文。

2.5 决定内存处理策略

大语言模型受其上下文窗口的限制，即它们一次可以'记住'的令牌数量。在多轮对话中的过去交互、冗长的工具输出或智能体所基于的额外上下文等情况下，内存可能会很快填满。这就是为什么拥有可靠的内存处理策略至关重要。

在智能体中，内存是指系统存储、记忆和利用过去交互信息的能力。这使智能体能够随着时间的推移保持上下文，根据先前的交流改进其响应，并提供更个性化的体验。

常见内存处理策略：

1. 滑动内存：在内存中保留最后 k 轮对话，并丢弃更早的对话。简单有效，适合短周期任务。
2. Token 内存：保留最后 n 个 token，丢弃其余的。这种方法更精细，但可能导致对话截断不自然。
3. 总结式内存：使用大语言模型在每一轮对话时总结对话内容，并丢弃单个消息。这能极大节省空间，但可能丢失细节。
4. 长期记忆：让大语言模型检测关键时刻并存储在向量数据库中。这使得智能体能够'记住'关于用户的重要事实，从而使体验更加个性化。

此外，还可以结合混合策略，例如短期使用滑动窗口，长期使用向量检索，以平衡实时性与持久性。

2.6 解析智能体的原始输出

解析器是一种将原始数据转换为应用程序可以理解和处理的格式（如具有属性的对象）的函数。

对于我们正在构建的智能体，解析器需要识别我们在 2.2 中定义的通信结构，并返回结构化输出，如 JSON。这使应用程序更容易处理和执行智能体的下一步骤。

注意：一些模型提供商（如 OpenAI）默认可以返回可解析的输出。对于其他模型，尤其是开源模型，这需要进行配置，可能需要强制模型输出特定格式的 JSON Schema。

2.7 编排 Agent 的下一步骤

最后一步是设置编排逻辑。这决定了大语言模型输出结果后会发生什么。根据输出，你将：

• 执行工具调用，或者
• 返回答案，即对用户查询的最终响应或要求更多信息的后续请求。

如果触发了工具调用，工具的输出将被发送回大语言模型（作为其工作记忆的一部分）。然后，大语言模型将决定如何处理这个新信息：要么执行另一个工具调用，要么向用户返回答案。

以下是这种编排逻辑在代码中可能呈现的示例：

def orchestrator(llm_agent, llm_output, tools, user_query):
    """
    Orchestrates the response based on LLM output and iterates if necessary.

    Parameters:
    - llm_agent (callable): The LLM agent function for processing tool outputs.
    - llm_output (dict): Initial output from the LLM, specifying the next action.
    - tools (dict): Dictionary of available tools with their execution methods.
    - user_query (str): The original user query.

    Returns:
    - str: The final response to the user.
    """
    max_iterations = 10  # Safety limit to prevent infinite loops
    iteration_count = 0

    while True:
        if iteration_count >= max_iterations:
            return "Error: Maximum iterations reached. Please check the task complexity."
        
        action = llm_output.get("action")
        iteration_count += 1

        if action == "tool_call":
            # Extract tool name and parameters
            tool_name = llm_output.get("tool_name")
            tool_params = llm_output.get("tool_params", {})

            if tool_name in tools:
                try:
                    # Execute the tool
                    tool_result = tools[tool_name](**tool_params)
                    # Send tool output back to the LLM agent for further processing
                    llm_output = llm_agent({"tool_output": tool_result})
                except Exception as e:
                    # Handle tool execution errors gracefully
                    error_msg = f"Error executing tool '{tool_name}': {str(e)}"
                    llm_output = llm_agent({"error": error_msg})
            else:
                return f"Error: Tool '{tool_name}' not found."

        elif action == "return_answer":
            # Return the final answer to the user
            return llm_output.get("answer", "No answer provided.")

        else:
            return "Error: Unrecognized action type from LLM output."

现在你拥有了一个能够处理各种各样场景的系统，从竞争分析和高级研究到自动化复杂工作流程。

2.8 多智能体系统在什么情况下适用

虽然这一代大语言模型非常强大，但它们有一个关键限制：它们难以处理信息过载。过多的上下文或工具可能会使模型不堪重负，导致性能问题。通用型单智能体最终会遇到这个瓶颈，尤其是因为 Agent 通常消耗大量 token。

对于某些应用场景而言，采用多智能体的设置可能更合理。通过将职责分配给多个智能体，你能够避免单个大语言模型智能体的上下文负担过重，并提高整体效率。

例如，一个智能体负责搜索信息，另一个负责分析数据，第三个负责撰写报告。这种分工协作可以提高准确性和速度。

话虽如此，通用的单智能体设置对于制作原型来说是一个很好的开始。它可以帮助你快速测试你的使用案例，并确定在哪些地方开始出现问题。通过这个过程，你可以：

• 了解任务的哪些部分确实能从智能体方法中获益。
• 确定在更大的工作流程中可作为独立流程拆分出来的组件。
• 从单个智能体入手能让你获得宝贵的见解，以便在扩展到更复杂的系统时改进你的方法。

3. 入门建议与最佳实践

使用框架是快速测试和迭代智能体配置的好方法。不要从零开始编写所有逻辑，利用成熟的生态可以节省大量时间。

如果你计划使用像 Llama 3 这样的开源模型，可以尝试 Bee Agent Framework 的入门模板。它提供了现成的 ReAct 模式和工具集成。

如果你计划使用像 OpenAI 这样的前沿模型，可以尝试 LangGraph 的教程。LangGraph 允许你定义状态图，非常适合构建有状态的复杂 Agent 应用。

3.1 安全与稳定性

在构建生产级 Agent 时，必须考虑安全性：

• 工具权限最小化：只授予智能体完成必要任务所需的工具权限，避免访问敏感数据。
• 输入验证：对所有工具输入进行严格验证，防止注入攻击。
• 人工干预点：在关键操作（如删除文件、发送邮件）前设置确认机制。

3.2 监控与调试

• 日志记录：详细记录每一步的思考过程（Thought）、工具调用和输出，便于排查问题。
• 指标追踪：监控 token 消耗、响应时间和成功率，优化成本与性能。

3.3 持续优化

Agent 不是静态的。随着用户反馈和新工具的引入，你需要不断调整系统提示、更新工具描述并优化内存策略。定期评估模型表现，必要时切换基座模型以提升效果。

通过遵循上述步骤和最佳实践，你可以构建出既强大又可靠的通用 LLM Agent，满足多样化的业务需求。