基于 LlamaIndex 实现 Agent 智能体

代码解析：

1. FunctionTool：将 Python 函数包装为 Agent 可调用的工具。
2. ReActAgent：采用 Reasoning + Acting 模式，让 LLM 思考下一步该做什么动作。
3. LLM 配置：此处使用了 GLM-4 Plus 模型作为推理核心。

输出分析： Agent 会将提问中的计算步骤分别利用自定义的函数 add 和 multiply，而不是直接由大模型估算。这体现了 Agent 的控制力，除了使用 Prompt 外，开发者对处理流程拥有更大的控制权。

集成 RAG 知识库

为了增强 Agent 的知识获取能力，可以将 RAG 引擎作为工具加入 Agent。

import os
import sys
import re

sys.path.append(os.path.abspath(os.path.join(os.path.dirname(__file__), "..", "..")))

from llama_index.core.agent import ReActAgent
from llama_index.core.tools import FunctionTool, QueryEngineTool
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llamaindex_demo import logger
from llamaindex_demo.custom.custom_llm_glm import GLM4LLM
from llamaindex_demo.custom.custom_embedding_zhipu import ZhipuEmbeddings

# 设置环境变量，禁用 tokenizers 的并行处理
os.environ["TOKENIZERS_PARALLELISM"] = "false"


def toHtml(text: str) -> str:
    """遇到英文单词就用 html 标签包裹"""
    return re.sub(r"(\b[a-zA-Z]+\b)", r'<span style="color:red;">\1</span>', text)


def run_glm4_query_with_embeddings(query: str):
    # 从指定目录加载文档数据
    documents = SimpleDirectoryReader(input_files=["./data/sample.txt"]).load_data()

    # 设置 LLM 和嵌入模型
    Settings.llm = GLM4LLM()
    Settings.embed_model = ZhipuEmbeddings()

    # 创建索引和查询引擎
    index = VectorStoreIndex.from_documents(documents, show_progress=True)
    query_engine = index.as_query_engine(streaming=True)

    # 将查询引擎包装为工具
    yc_tool = QueryEngineTool.from_defaults(
        query_engine,
        description="关于作者背景知识的 RAG 引擎",
    )

    to_html_tool = FunctionTool.from_defaults(fn=toHtml)

    # 创建 Agent，包含 RAG 工具和文本处理工具
    agent = ReActAgent.from_tools(
        [to_html_tool, yc_tool],
        verbose=True,
    )

    # 执行查询
    logger.info("agent 查询结果：")
    response = agent.chat(query)

    print(response)
    logger.info("\n查询完成")


def main():
    run_glm4_query_with_embeddings("请描述一下作者的求学经历，并将英文用 html 高亮显示")


if __name__ == "__main__":
    main()

运行效果说明： 在此示例中，yc_tool 是通过加载本地文件自定义的 RAG 应用，并加入到 Agent 的工具列表中。Agent 在执行过程中会先调用 RAG 工具获取相关知识，再调用 toHtml 工具进行格式处理。日志输出显示了 Agent 的思考过程（Thought）、行动（Action）及观察结果（Observation），验证了多工具协作的能力。

Agent 的记忆功能

Agent 具备记忆功能，这意味着它能记住之前的对话上下文，而不是将每次提问视为独立事件。

在 LlamaIndex 中，可以通过配置 ConversationBufferMemory 或其他记忆机制来实现。当在一个流程中发起多次提问时，Agent 能够结合历史对话信息进行回答。这对于多轮对话场景至关重要。

深入理解 Agent 架构

ReAct 模式详解

ReAct (Reasoning + Acting) 是目前最流行的 Agent 范式。其工作流程如下：

1. Thought：根据当前输入和历史，决定需要采取什么行动。
2. Action：选择具体的工具并传入参数。
3. Observation：执行工具后返回的结果。
4. Final Answer：综合所有信息给出最终回复。

这种循环机制允许 Agent 自主规划任务路径，处理复杂问题。

工具注册与管理

在 LlamaIndex 中，工具可以是任意 Python 函数，也可以是外部 API 的封装。关键在于正确描述工具的 description 和参数类型，以便 LLM 能准确理解何时调用该工具。

错误处理与鲁棒性

在实际应用中，Agent 可能会遇到工具调用失败、API 超时或 LLM 幻觉等问题。建议采取以下措施：

• 重试机制：对失败的 API 调用实施指数退避重试。
• 超时控制：限制每个工具调用的最大耗时。
• 人工干预：对于高风险操作，保留人工确认环节。

最佳实践与总结

性能优化

1. 缓存策略：对相同的查询请求进行缓存，减少重复的向量检索和 LLM 调用。
2. 流式输出：使用 streaming=True 提升用户体验。
3. 异步处理：在支持的环境中，尽量使用异步 IO 提高并发处理能力。

局限性

尽管 Agent 功能强大，但仍存在局限性：

• 成本：多轮思考和工具调用会增加 Token 消耗。
• 延迟：复杂的规划过程可能导致响应时间变长。
• 不可控性：Agent 可能产生意外的行为，需做好监控。

结语

学习 AI 大模型是当前科技发展的趋势。通过掌握 LlamaIndex 等框架，开发者可以构建出具备感知、规划和行动能力的智能体，从而更好地理解和应用人工智能技术。这不仅能为职业发展增添竞争力，还能创造实际的业务价值。

本文详细讲解了如何使用 LlamaIndex 实现 Agent 智能体，涵盖了从基础定义、工具调用、RAG 集成到记忆管理的完整流程。希望这些内容能帮助你在 AI 应用开发道路上少走弯路，快速构建出高质量的智能系统。