Agent 入门前置：大模型基础（开发向）

3. 生成参数（开发必调，决定输出效果）

大模型的输出不是固定的，我们可以通过调整生成参数，控制输出的'确定性''多样性''长度'，适配不同的 Agent 任务场景。其中最常用、最关键的 3 个参数，必须掌握。

（1）temperature（温度）——控制输出的随机性

temperature 的取值范围是 0~2，核心作用是控制模型输出的'冒险程度'，直接影响输出的确定性和多样性。

详细解读（结合 Agent 场景）：

• temperature = 0：输出最确定、最保守，不会有任何随机内容，甚至会重复输出。适合 Agent 的'精准执行'场景，比如代码生成、数据计算、固定格式输出（如 JSON）——要求结果准确，不能有偏差。
• temperature = 0.1~0.3：轻微随机，输出既准确又不会太死板。这是Agent 开发的常用范围，比如任务拆解、工具调用决策、多轮对话回复——既保证决策正确，又能应对轻微的需求变化。
• temperature = 0.5~1.0：随机性中等，输出会有一定的创意。适合 Agent 的'创意生成'场景，比如文案撰写、方案构思——需要一定的灵活性，但不能太离谱。
• temperature > 1.0：随机性极强，输出可能天马行空，甚至出现'胡说八道'（幻觉）。不适合 Agent 开发，除非是纯创意生成场景（如诗歌、小说），否则不推荐使用。

避坑点：Agent 开发中，尽量不要把 temperature 设为 0（容易重复），也不要超过 0.5（容易出现幻觉），0.2 左右是最稳妥的选择。

（2）top_p（核采样）——控制词汇多样性

top_p 和 temperature 类似，都是控制输出的多样性，但逻辑不同：temperature 是调整'概率分布的陡峭程度'，top_p 是选择'概率累加和达到某个阈值的词汇集合'。

详细解读（结合 Agent 场景）：

• 取值范围是 0~1，值越小，词汇集合越窄，输出越确定；值越大，词汇集合越宽，输出越多样。
• Agent 开发中，推荐取值0.1~0.7：比如做工具调用决策时，top_p 设为 0.3，模型会只从概率最高的 30% 的词汇中选择，保证决策的准确性；做文案生成时，top_p 设为 0.7，兼顾准确性和创意。
• 注意：temperature 和 top_p 不要同时调整，一般只调整其中一个即可——比如调整了 temperature=0.2，就不用再调整 top_p，默认 0.9 即可。

（3）max_tokens——控制最大生成长度

max_tokens 是控制模型单次输出的最大 Token 数量，相当于给模型的'输出篇幅'设一个上限。

详细解读（结合 Agent 场景）：

• 设置太小：模型输出不完内容，比如 Agent 拆解任务时，只输出了 2 个步骤就被截断，导致任务无法执行；
• 设置太大：浪费 Token、增加响应时间，甚至可能出现冗余内容（比如重复描述），增加成本；
• 实用技巧：根据 Agent 的任务场景设置——比如工具调用的参数输出，max_tokens 设为 100200 即可；任务拆解的步骤输出，设为 5001000 即可；长文本总结，设为 1000~2000 即可。

4. 大模型的能力边界（Agent 存在的核心原因）

我一开始误以为大模型无所不能，只要调用大模型 API，就能实现 Agent 的所有功能。其实不然，大模型有天生的缺陷，而这些缺陷，正是 Agent、RAG、工具调用存在的核心原因——Agent 本质上就是'弥补大模型的不足，让它能落地做事'。

大模型的 4 个核心缺陷：

1. 没有实时信息（知识截止期）：大模型的训练数据有一个'截止时间'（比如 GPT-4 截止到 2023 年 10 月，文心一言截止到 2024 年 3 月），截止时间之后的信息，它完全不知道。比如你让大模型查'2024 年的 GDP 数据'，它会无法回答——这就是 Agent 需要'工具调用'（调用联网工具）的原因。
2. 不会主动行动：大模型只会'被动响应'，你问它什么，它答什么；你不指令它，它不会主动去联网、查文件、执行代码。比如你让它'分析某份 Excel 数据'，它只会告诉你分析步骤，不会主动去读取 Excel 文件——这就是 Agent 需要'执行模块'的原因。
3. 不会精确计算、逻辑推理易出错：大模型对数字不敏感，做加减乘除、复杂逻辑推理时，很容易出错（比如 10086+12345，它可能算错）。比如你让它'计算某组数据的平均值'，它可能给出错误结果——这就是 Agent 需要'工具调用'（调用计算器、Excel 工具）的原因。
4. 会产生幻觉（一本正经地胡说）：大模型会基于训练数据的模式，生成看似合理但实际错误的内容，比如编造不存在的论文、错误的知识点。比如你让它'介绍某篇冷门论文'，它可能会编造论文的作者、结论——这就是 Agent 需要'RAG（检索增强）'和'结果校验'的原因。

总结：大模型是'大脑'，但它有'近视'（没有实时信息）、'手脚不便'（不会主动行动）、'算数差'（不会精确计算）、'爱吹牛'（幻觉）的问题，而 Agent 就是给这个'大脑'配上'眼睛'（RAG）、'手脚'（工具调用）、'记忆'（记忆系统），让它能自主、准确地完成任务。

三、大模型的两种核心能力

大模型能成为 Agent 的'大脑'，核心靠两种能力——理解能力和生成能力。这两种能力是 Agent 实现任务拆解、决策、执行的基础，必须搞懂它们的具体应用场景。

1. 理解能力——Agent 的'感知力'

理解能力是大模型最基础的能力，指的是'读懂自然语言、提取关键信息、做出判断'的能力。对 Agent 来说，理解能力就是'听懂用户需求、看懂任务场景'的能力。

具体应用场景（Agent 开发中常用）：

• 提取用户意图：比如用户输入'帮我分析一下这个月的销售数据，找出下降的原因'，大模型能理解用户的意图是'数据分析 + 问题定位'，并提取出关键信息'这个月、销售数据、下降原因'；
• 实体提取：比如用户输入'明天下午 3 点，在公司会议室开产品复盘会，参会人有张三、李四'，大模型能提取出时间（明天下午 3 点）、地点（公司会议室）、事件（产品复盘会）、参会人（张三、李四）；
• 分类与判断：比如 Agent 接收到工具返回的信息，大模型能判断'这个信息是否符合任务需求''下一步是否需要继续调用工具'；
• 总结与提炼：比如 Agent 获取到大量的网页信息，大模型能总结出核心内容，避免信息冗余，节省上下文空间。

2. 生成能力——Agent 的'表达力'

生成能力是大模型的核心输出能力，指的是'根据输入，生成符合要求的文本'的能力。对 Agent 来说，生成能力就是'输出决策、步骤、结果'的能力。

具体应用场景（Agent 开发中常用）：

• 生成自然语言回复：比如 Agent 完成任务后，向用户反馈结果，用自然语言解释'做了什么、得到了什么结果'；
• 生成结构化输出：这是 Agent 开发中最常用的能力——比如生成 JSON 格式的工具调用参数（{"tool":"search","parameters":{"keyword":"2024 年 GDP 数据"}}）、生成任务步骤的列表（1. 调用联网工具查数据；2. 调用 Excel 工具分析数据；3. 总结结果）；
• 生成思考过程（思维链）：这是 Agent 实现'自主决策'的关键——让大模型生成'为什么这么做'的思考过程，比如'用户让我分析销售数据下降原因，首先我需要调用工具获取这个月的销售数据，然后对比上个月的数据，找出下降的品类，再分析该品类的市场环境，最后总结原因'；
• 生成代码：比如 Agent 需要处理数据，大模型能生成 Python 代码（如 Pandas 处理 Excel 数据），然后调用代码执行工具运行代码，得到结果。

四、思维链 CoT（Chain-of-Thought）——Agent 自主决策的关键

很多新手学 Agent 时，会疑惑：'为什么大模型能做出复杂的决策？'核心答案就是——思维链（CoT）。

什么是思维链？简单说，就是让大模型'先思考，再回答'，把思考过程清晰地呈现出来。就像人做复杂任务时，会在心里一步步盘算'第一步做什么、第二步做什么、为什么这么做'，思维链就是让大模型把这个'盘算过程'写出来。

1. 思维链的核心作用

没有思维链，大模型的输出会'跳跃'，比如用户让它分析销售数据下降原因，它可能直接给出'因为市场竞争激烈'，但没有任何推理过程，无法判断这个结论是否正确，也无法排查错误；

有了思维链，大模型会一步步呈现推理过程，比如：

用户需求：分析这个月销售数据下降的原因。

思考过程：

1. 首先，我需要获取这个月的销售数据，包括总销售额、各品类销售额、环比数据（和上个月对比）；

2. 调用工具获取数据后，发现总销售额环比下降 15%，其中 A 品类销售额下降 30%，其他品类基本持平；

3. 接下来，需要分析 A 品类下降的原因，可能的因素有：市场竞争加剧、产品质量问题、营销活动不足、用户需求变化；

4. 调用联网工具查询 A 品类的市场环境，发现竞争对手推出了同款低价产品，抢占了市场份额；

5. 调用内部营销数据，发现这个月 A 品类没有开展任何营销活动，而上个月有大型促销活动；

6. 综合以上信息，得出结论：这个月销售数据下降的主要原因是 A 品类受竞争对手冲击，且未开展营销活动。

结论：这个月销售数据环比下降 15%，核心原因是 A 品类受竞争对手低价产品冲击，且本月未开展营销活动，导致销售额下降 30%，拉低了整体业绩。

这种思考过程，就是思维链。它的核心作用有两个：

• 提升决策准确性：一步步推理，能减少大模型的幻觉和错误，比如如果发现某个步骤的数据有误，能及时修正；
• 支撑 Agent 自主循环：Agent 的'思考→行动→观察→再思考'循环，本质上就是基于思维链的——大模型通过思考过程，判断下一步该调用什么工具、执行什么操作，然后根据工具返回的结果，再调整思考过程，继续推进任务。

2. 如何在 Agent 中使用思维链？

很简单，通过 Prompt（提示词）引导大模型生成思维链即可。比如在 System Prompt 中加入：'请先呈现你的思考过程，一步步拆解任务、分析问题，再给出最终结果或决策'。

举个 Agent 工具调用的 Prompt 示例：

你是一个数据分析 Agent，负责帮用户分析销售数据。请先呈现你的思考过程，一步步拆解任务，判断是否需要调用工具，调用什么工具，再执行操作。工具包括：1. 销售数据查询工具（可获取各月份、各品类销售数据）；2. 联网工具（可查询市场环境、竞争对手信息）；3. Excel 分析工具（可进行数据计算、对比）。

这样，大模型就会按照思维链的方式，一步步推进任务，而不是直接输出结果。

记住：Agent 本质 = LLM + 思维链 + 工具 + 循环——思维链是连接 LLM 和工具、循环的核心。

五、主流大模型分类（Agent 开发选型用）

学完基础概念，接下来就是实际开发中的'选型'——选择哪个大模型，直接影响 Agent 的开发难度、成本、效果。根据部署方式和开源情况，主流大模型分为两类，各有优缺点，适合不同的 Agent 场景。

1. 闭源商用模型（直接调用 API）

这类模型由大厂开发，不开放源代码，只能通过 API 调用，需要付费（按 Token 计费）。优点是性能强、稳定性高、开发成本低，适合快速落地 Agent 项目；缺点是成本较高、无法私有化部署（敏感数据场景不适用）。

主流闭源模型（Agent 开发常用）：

• GPT-3.5 / GPT-4（OpenAI）：目前最主流、最常用的模型。GPT-3.5 性价比高，响应速度快，适合大部分 Agent 场景（如任务拆解、工具调用、文案生成）；GPT-4 性能更强，推理能力、理解能力更好，适合复杂 Agent 场景（如深度调研、复杂代码生成、多智能体协作）。
• 文心一言 ERNIE（百度）：中文支持更好，适合中文场景的 Agent（如中文文案、中文任务拆解），API 调用成本较低，稳定性好。
• 通义千问（阿里）：中文理解能力强，支持多模态（文本、图片），适合需要处理中文多模态信息的 Agent，性价比高。
• 讯飞星火（科大讯飞）：语音转文字、文字转语音能力较强，适合需要语音交互的 Agent（如智能客服 Agent）。
• Claude（Anthropic）：上下文窗口大（最高 100k+），适合长文档处理的 Agent（如学术调研、长篇报告分析），幻觉较少，安全性高。

适用场景：快速开发 Agent 项目、生产环境、不需要处理敏感数据的场景（如公开信息检索、文案生成）。

2. 开源本地模型（自己部署）

这类模型开放源代码，可以下载到本地部署，不需要付费（部署成本除外）。优点是可以私有化部署（适合敏感数据场景）、无 Token 限制、成本低；缺点是性能不如闭源模型、部署难度较高、需要一定的硬件资源（如 GPU）。

主流开源模型（Agent 开发常用）：

• Llama 2 / 3（Meta）：目前最流行的开源模型，性能接近 GPT-3.5，支持多语言，有不同参数规模（7B、13B、70B），适合学习、私有化部署，很多 Agent 开源项目（如 AutoGPT）都基于 Llama 系列。
• Mistral（Mistral AI）：轻量、快速，7B 参数的 Mistral 性能接近 Llama 2 13B，适合部署在资源有限的环境（如本地电脑、小型服务器），适合入门学习。
• Qwen 通义开源（阿里）：中文支持更好，开源版本有 7B、14B、72B 等，性能较强，适合中文场景的私有化 Agent 部署。
• ChatGLM（清华智谱）：轻量、中文友好，部署门槛低，适合入门学习、小型 Agent 项目（如本地自动化办公 Agent）。

适用场景：学习 Agent 开发、私有化部署（如企业内部 Agent，处理敏感数据）、不需要极致性能的场景。

3. 选型建议

• 新手入门：优先用 GPT-3.5 API（性价比高、开发简单），或者 Llama 3 7B（本地部署，适合学习）；
• 中文场景：优先用文心一言、通义千问（中文理解更好）；
• 复杂任务：用 GPT-4、Claude（推理能力强、上下文窗口大）；
• 敏感数据：用开源模型（Llama 3、Qwen）本地部署；
• 成本敏感：用开源模型，或者 GPT-3.5、文心一言（API 成本较低）。

六、总结：大模型与 Agent 的关系

最后用一张'比喻'，帮你彻底理清大模型和 Agent 的关系，记住这几句话，后续学习 Agent 架构、工具调用会更轻松：

• 大模型（LLM）= Agent 的大脑：负责理解需求、推理决策、生成输出，是 Agent 的核心；
• Prompt 工程 = Agent 的指令系统：告诉大脑'该做什么、怎么做'，引导大脑生成正确的思考过程和输出；
• RAG（检索增强）= Agent 的外部记忆/眼睛：弥补大脑的知识缺口（实时信息、专业知识），让大脑能获取更准确、更全面的信息；
• Function Calling（工具调用）= Agent 的手脚：让大脑能主动行动（联网、查文件、执行代码、计算），解决大脑'不会主动做事'的问题；
• Agent = 带思考、记忆、行动能力的完整智能体：把大脑、指令系统、眼睛、手脚整合起来，实现'自主感知→决策→执行→迭代'的闭环，能独立完成复杂任务。

简单说：大模型是'能思考'，Agent 是'能做事'；大模型是基础，Agent 是大模型的'落地形态'。