Agent 反思工作流框架 Reflexion 中篇：ReactAgent 实现与原理详解

需要注意的是，对于 LLM 来说，如果你期望 LLM 能够按照你设想的格式返回，在 Prompt 中应该以强硬的语气类似必须（Must）等文字来设定。GPT-3.5 可能还好，我本地部署模型经常在找到结果的时候，不会以 Finish[answer] 回复，当我修改了 Prompt 并用力的强化约束它，它正常多了。。。

这里 ScratchPad，我们需要手动填入当前是 Thought 1: 外加 LLM 的思考的返回结果，然后到 Action 1 我们再次填入 LLM 返回的 Action 结果，经过迭代，我们就能实现上图中的过程。

2.2 流程设计图

接下来，进入 Reflexion 框架，查看 ReactAgent 实现代码，探索具体的实现细节。

3. ReactAgent 实现

3.1 初始化

def __init__(self,
           question: str,
           key: str,
           max_steps: int = 6,
           agent_prompt: PromptTemplate = react_agent_prompt,
           docstore: Docstore = Wikipedia(),
           react_llm: AnyOpenAILLM = AnyOpenAILLM(
                                      temperature=0,
                                      max_tokens=100,
                                      model_name="gpt-3.5-turbo",
                                      model_kwargs={"stop": "\n"},
                                      openai_api_key="sk"),
           ) -> None:
    self.question = question
    self.answer = ''
    self.key = key
    self.max_steps = max_steps
    self.agent_prompt = agent_prompt
    self.react_examples = WEBTHINK_SIMPLE6
    self.docstore = DocstoreExplorer(docstore) # Search, Lookup
    self.llm = react_llm
    self.enc = tiktoken.encoding_for_model("text-davinci-003")
    self.__reset_agent()

• question、answer 和 key：从 hotpotqa 中传入 question 和 answer，传入 answer 是为了评估 agent 结果是否准确，并不是用来告诉 agent 答案。
• 设定 max_steps 为 6，设定 ReactAgent 最多运行 6 步，会判断获取的 answer 和 key 是否相同。
• agent_prompt：设定提示词，采用 langchain 的 PromptTemplate 设定要输入的字段和模板。

REACT_INSTRUCTION = """Solve a question answering task with interleaving Thought, Action, Observation steps. Thought can reason about the current situation, and Action must be three types: 
(1) Search[entity], which searches the exact entity on Wikipedia and returns the first paragraph if it exists. If not, it will return some similar entities to search.
(2) Lookup[keyword], which returns the next sentence containing keyword in the last passage successfully found by Search.
(3) Finish[answer], which returns the answer and finishes the task.
You may take as many steps as necessary. Ensure that your responses MUST strictly to the above formats, especially Action must be one of the three types.
Here are some examples:
{examples}
(END OF EXAMPLES)
{reflections}
Question: {question}{scratchpad}"""
react_agent_prompt = PromptTemplate(input_variables=["examples", "question", "scratchpad"],
                                    template = REACT_INSTRUCTION)

注意，这里的 Prompt 我做了一点强化约束式的修改，和 Repo 中相比我强调了输出 Action 必须是这三者之一，不然在运行时会有很多意外。

• 设定 react_examples 为 WEBTHINK_SIMPLE6

WEBTHINK_SIMPLE6 = """Question: What is the elevation range for the area that the eastern sector of the Colorado orogeny extends into?
Thought 1: I need to search Colorado orogeny, find the area that the eastern sector of the Colorado orogeny extends into, then find the elevation range of the area.
Action 1: Search[Colorado orogeny]
Observation 1: The Colorado orogeny was an episode of mountain building (an orogeny) in Colorado and surrounding areas.
....
"""

设定 example 模板给 LLM 指导它推理步骤，是一个典型的 React Prompt，即 Thought，Action 和 Observation，该代码中 Example 有 6 个案例，便于阅读起见，这里做了删减。在 ReactAgent 的方法 _build_agent_prompt 中，会将提示词中缺失信息 examples, question 和 scratchpad 补全。

def _build_agent_prompt(self) -> str:
  return self.agent_prompt.format(examples = self.react_examples, question = self.question,
                                  scratchpad = self.scratchpad)

所以最终生成的 Prompt 如下，对 example 有所删除。

Solve a question answering task with interleaving Thought, Action, Observation steps. Thought can reason about the current situation, and Action can be three types: 
...
(END OF EXAMPLES)
Question: The creator of "Wallace and Gromit" also created what animation comedy that matched animated zoo animals with a soundtrack of people talking about their homes?
Thought 1:

• 初始化 docstore 为 DocstoreExplorer(docstore)，其中 dockstore 为 lanchiain 内置的访问 wikipedia 工具。
• 赋值 llm 为 reactllm，reactllm 为 AnyOpenAILLM 的实例，我们在上节有将其修改为本地 llm。AnyOpenAILLM 包含两个方法 __init__ 和 __call__ 方法。其中 init 方法，初始化 LLM 是 Chat 模式还是扩写模式，而 call 方法是一种 magic method，在类中实现这一方法可以使该类的实例 (对象) 像函数一样被调用，即我们可以直接通过 llm(prompt) 来调用的 chat 方法。

class AnyOpenAILLM:
    def __init__(self, *args, **kwargs):
        # Determine model type from the kwargs
        model_name = kwargs.get('model_name', 'gpt-3.5-turbo')
        kwargs['openai_api_base'] = "http://localhost:8080/v1"
        if model_name.split('-')[0] == 'text':
            self.model = OpenAI(*args, **kwargs)
            self.model_type = 'completion'
        else:
            self.model = ChatOpenAI(*args, **kwargs)
            self.model_type = 'chat'
    
    def __call__(self, prompt: str):
        if self.model_type == 'completion':
            return self.model(prompt)
        else:
            return self.model(
                [
                    HumanMessage(
                        content=prompt,
                    )
                ]
            ).content

小结：初始化 ReActAgent，主要是传入 Prompt 所需的输入 question 和 template，并初始化所需使用的 LLM。

3.2 运行函数 run

def run(self, reset = True) -> None:
    if reset:
        self.__reset_agent()
    while not self.is_halted() and not self.is_finished():
        self.step()

这几个函数调用都很简单，一是重置一些影响运行的条件状态变量，二是判断当前运行状态是否结束。

    def __reset_agent(self) -> None:
        self.step_n = 1
        self.finished = False
        self.scratchpad: str = ''
    def is_halted(self) -> bool:
        return ((self.step_n > self.max_steps) or (len(self.enc.encode(self._build_agent_prompt())) > 3896)) and not self.finished
    def is_finished(self) -> bool:
        return self.finished

如果当前没有达到最大运行步骤 6 或者输入没有超过 3896 个提示词（应该是防止超过 4K 上下文而设定）且 finished 标志不是 true，就运行 step 方法。所以 step 方法最多运行 6 次，每次运行都会得到 Thought，Action 和 Observe。

3.3 step 方法

def step(self) -> None:
    # Think
    self.scratchpad += f'\nThought {self.step_n}:'
    self.scratchpad += ' ' + self.prompt_agent()
    print(self.scratchpad.split('\n')[-1])

    # Act
    self.scratchpad += f'\nAction {self.step_n}:'
    action = self.prompt_agent()
    self.scratchpad += ' ' + action
    action_type, argument = parse_action(action)
    print(self.scratchpad.split('\n')[-1])

    # Observe
    self.scratchpad += f'\nObservation {self.step_n}: '
    
    if action_type == 'Finish':
        self.answer = argument
        if self.is_correct():
            self.scratchpad += 'Answer is CORRECT'
        else: 
            self.scratchpad += 'Answer is INCORRECT'
        self.finished = True
        self.step_n += 1
        return

    if action_type == 'Search':
        try:
            self.scratchpad += format_step(self.docstore.search(argument))
        except Exception as e:
            print(e)
            self.scratchpad += f'Could not find that page, please try again.'
        
    elif action_type == 'Lookup':
        try:
            self.scratchpad += format_step(self.docstore.lookup(argument))
        except ValueError:
            self.scratchpad += f'The last page Searched was not found, so you cannot Lookup a keyword in it. Please try one of the similar pages given.'

    else:
        self.scratchpad += 'Invalid Action. Valid Actions are Lookup[<topic>] Search[<topic>] and Finish[<answer>].'

    print(self.scratchpad.split('\n')[-1])

    self.step_n += 1

该方法共分为 3 个步骤：Thought，Act，Observe。

3.4 Thought

首先设定 scratchpad 为 Thought 1，然后调用 prompt_agent() 方法，build_agent_prompt 我们在 3.1 节有提到过，构造提示词并填充所需字段比如 example，question 和 scratchpad，llm 就是 AnyOpenAILLM 的 call 接口。

    def prompt_agent(self) -> str:
        return format_step(self.llm(self._build_agent_prompt()))
    def format_step(step: str) -> str:
        return step.strip('\n').strip().replace('\n', '')

在 Thought 阶段，llm 输入就是上面构建的 promt，此时他应该长这样

Solve a question answering task with interleaving Thought, Action, Observation steps. Thought can reason about the current situation, and Action can be three types: 
...
(END OF EXAMPLES)
Question: The creator of "Wallace and Gromit" also created what animation comedy that matched animated zoo animals with a soundtrack of people talking about their homes?
Thought 1:

注意我们在初始化 AnyOpenAILLM 时候，有设定一些关键参数。比如要求 temperature 为 0 的严格模式，不要肆意发挥。设定 stop 条件为遇到换行，max_tokens 为 100。为什么呢？因为如果不设定 stop 为 \n 的话，那么 LLM 默认会按照 Example 将 Thought，Action，Observe 的几个步骤都输出了。这样的结果是，没有工具参与，都是模型完成了，但他并不能真的去网络搜索。因此我们要他在第一个 \n 就结束输出。大家可以自己拷贝 Prompt 到 Postman 中测试一下。

AnyOpenAILLM(temperature=0, 
    max_tokens=100,
    model_name="gpt-3.5-turbo",
    model_kwargs={"stop": "\n"},
    openai_api_key="sk")

3.5 Action

经过 Thought 步骤后，进入 Action 环节，scratchpad 被赋值为

Thought 1: The creator of "Wallace and Gromit" is Nick Park. I need to search for other animation comedies by Nick Park that match this description.
Action 1:

调用 action = self.prompt_agent()action 会被赋值为

Search[Nick Park zoo animals talking about their homes]

更新 scratchpad 为

Thought 1: The creator of "Wallace and Gromit" is Nick Park. I need to search for other animation comedies by Nick Park that match this description.
Action 1: Search[Nick Park zoo animals talking about their homes]

接下来使用正则表达式 pattern = r'^(\w+)[(.+)]$' 提取 Search 这个 Action，提取中括号中的检索字符串。根据 step 方法，判断 Action 为 Search 需要执行 Wikipedia 检索行为，具体的 wikipedia 工具的实现这里不多赘述，可以参考。

self.scratchpad += f'\nObservation {self.step_n}: '
self.scratchpad += format_step(self.docstore.search(argument))

3.6. Observe

在 Wikipedia 中检索结果如下

Nicholas Wulstan Park  (born 6 December 1958) is an  English filmm...

整个 step 完成，最终的 scratchpad 为

Thought 1: The creator of "Wallace and Gromit" is Nick Park. I need to search for other animation comedies by Nick Park that match this description.
Action 1: Search[Nick Park zoo animals talking about their homes]
Observation 1: Nicholas Wulstan Park  (born 6 December 1958) is an  English filmmaker and ...

3.7 迭代 React

循环调用 step，直到满足条件退出。最终的 scratchpad 如下

Thought 1: The creator of "Wallace and Gromit" is Nick Park. I need to search for other animation comedies by Nick Park that match this description.
Action 1: Search[Nick Park zoo animals talking about their homes]
Observation 1: Nicholas Wulstan Park  (born 6 December 1958) is an  English filmmaker ...
Thought 2: Nick Park also created Creature Comforts, which is the animation comedy that matched animated zoo animals with a soundtrack of people talking about their homes.
Action 2: Finish[Creature Comforts]

4. 引入反思机制：ReactReflectAgent

在 ReactAgent 的基础上，Reflexion 框架引入了反思（Reflection）机制。核心思想是让 Agent 记录过去的执行轨迹（Trajectory），并在遇到失败时利用这些历史经验来调整当前的策略。

具体实现上，ReactReflectAgent 继承自 ReactAgent。在初始化时，除了传入问题，还会传入一个反思提示词模板。当 Agent 执行 step 时，如果当前步骤失败（例如搜索无果或答案错误），系统会将当前的 Thought-Action-Observation 序列作为'反思材料'追加到 Prompt 中。

这使得 LLM 能够意识到之前的错误路径，从而避免重复犯错。例如，Prompt 中会包含类似'之前尝试过 Search[xxx] 但未找到相关结果，请尝试其他关键词'的指令。 这种机制显著提升了 Agent 在复杂任务中的成功率，特别是在需要多步推理的场景下。通过不断积累反思经验，Agent 逐渐学会优化其推理路径，减少无效探索。

5. 总结

根据上述分析，我们可以了解到 ReactAgent 的核心设计理念是通过有效的 Prompt 进行设计，并通过对 Thought、Action 和 Observer 的迭代优化回答的质量。Prompt 应当简洁明了地说明回答问题的步骤，包括 TAO（Thought、Action、Observer），并提供四到五个示例以供 LLM 参考。Thought 部分应根据当前情境进行推理，而 Action 则要求以 Search、Lookup 和 Finish 三个选项中的一个回复，并详细说明所提取的实体。值得注意的是，这里的 Action 并非通用的，而是根据我们所面向的具体任务进行设计。比如 Action 是一些调用函数名，那么你应该在 Prompt 中说明 Action 可为什么，当然这种工具调用也可以直接考虑使用 LLM 的 Function Calling（如果支持的话）。

LLM 会根据 Prompt 对问题进行针对性推理，即根据问题推断出应采取何种行动，并提供 Thought 的推理结果。在这一设计中，我们要求 LLM 在遇到第一个换行符时停止，以防止其根据 Example 回复 Search、Lookup 和 Finish，这一设计依赖于 Example 中的格式。接下来，我们将 Thought 与 Prompt 结合再次输入 LLM，LLM 将基于此进行进一步推理，确定应采取何种行动，从而对 Thought 中的想法进行总结提炼，决定是执行 Search、Lookup 还是 Finish 操作。随后，我们调用工具进行维基百科搜索以获取实体。在 Observation 阶段，我们会获取工具返回的结果，再次进入 Thought 以便确定是否找到了问题的答案。若找到了，给出 Action Finished；若未找到，则根据 Observation 的结果或相似内容进行思考，然后在 Action 阶段开始检索。通过一次次的迭代，最终获得答案。

引入反射机制后，Agent 不再仅仅依赖单次推理，而是具备了自我修正的能力。这是 Reflexion 框架区别于传统 ReAct 的关键所在，也是提升大模型智能体鲁棒性的重要方向。