跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI算法

AI 大模型落地:学习 AI 前需具备的基础知识

AI 大模型应用核心架构包含提示词工程、智能体、工具调用及检索增强生成等关键技术。User Prompt 与 System Prompt 分别定义用户输入与模型设定。AI Agent 协调模型与工具执行任务,Function Calling 标准化工具调用格式。MCP 协议实现工具统一接入,类似 USB-C 接口。上下文窗口限制模型记忆容量,RAG 技术通过检索知识库解决长文本与幻觉问题。理解这些基础概念有助于构建企业级 AI 应用系统。

念念不忘发布于 2026/3/26更新于 2026/8/1733 浏览
AI 大模型落地:学习 AI 前需具备的基础知识

一、什么是所谓的 user prompt

最早的 GPT,其实只是个'高级点的聊天机器人'。

你给它一句话(user prompt),它给你一句话回答。

它能聊天、能写文章、能解释代码。 但它不能真的帮你做事。

比如你说:

帮我把 C 盘的 hello_world.cpp 移动到 D 盘,并总结内容

它最多告诉你'应该怎么做',但不会真的帮你操作文件。

于是问题来了:

能不能让 AI 真正去执行任务?

这就引出了 —— AI Agent。


二、user prompt 和 system prompt

在讲 Agent 之前,我们先把基础打牢。

1、user prompt(用户提示词)

就是你在对话框里输入的内容。

例如:

你好 

早期 GPT 只有 user prompt。 模型没有人格设定、没有角色设定,只是普通问答。


2、system prompt(系统提示词)

后来人们发现,可以给模型'设定人设'。

比如:

你是一个傲娇的程序员,说话尽量傲娇,最好带 emoji。 

这个提示不让用户看到,但每次请求都会和 user prompt 一起发给模型。

于是模型有了:

  • 性格
  • 风格
  • 行为约束

本质上:

user prompt = 你说的话
system prompt = 模型的隐藏设定


三、AI Agent 是怎么让 AI 干活的?

现在进入核心。

1、AI 的问题

AI 本身:

  • 只能输出文本
  • 不能操作系统
  • 不能读文件
  • 不能访问数据库

所以它只能'动脑',不能'动手'。


2、Agent 的出现

AI Agent 本质上就是一段程序。

它的作用是:

在 用户、AI、工具 之间做协调。

你可以理解为:

角色职责
AI思考和决策
Agent协调和调度
Tool实际执行

3、举个完整流程例子

用户说:

读取 C 盘 hello_world.cpp,移动到 D 盘,并总结内容

流程是这样的:

第一步:Agent 告诉 AI 可以用哪些工具

例如:

  • read_file
  • move_file

第二步:AI 决定调用 read_file

调用 read_file,路径:C://hello_world.cpp 

第三步:Agent 真正执行工具

  • 读取文件
  • 把内容返回给 AI

第四步:AI 决定调用 move_file

第五步:Agent 执行移动

第六步:AI 输出总结

第七步:Agent 返回结果给用户

这就是一个完整的循环。

规划 → 执行 → 反馈 → 再规划 → 交付


四、Function Calling:工具调用的标准化革命

早期 Agent 有个问题: AI 是'猜'怎么调用工具的。

比如天气查询工具:

check_weather(city, date) 

AI 可能会写:

上海 明天 

问题来了:

  • 参数顺序错了?
  • 明天不是标准日期?
  • 少传字段?

于是就出现了 Function Calling。

Function Calling:把工具描述从 system prompt 中剥离,用 JSON 格式统一定义函数名、函数介绍、参数字段,并规范 AI 调用工具的回复格式。这就是 Function Calling 的核心:用标准化格式让 AI 理解怎么调用工具,而不是猜。


1、工具定义(标准 JSON)

{"name":"check_weather","parameters":{"type":"object","properties":{"city":{"type":"string"},"date":{"type":"string","format":"YYYY-MM-DD"}},"required":["city"]}}

2、AI 必须按格式调用

{"function_call":{"name":"check_weather","parameters":{"city":"上海","date":"2025-11-14"}}}

3、Function Calling 的好处:

  1. 告别猜谜语:以前靠 System Prompt 用自然语言描述工具,AI 可能听不懂;现在用 JSON 格式,AI 一看就会。
  2. 降低开发难度:开发者不用自己写代码检测 AI 回复是否正确,若 AI 回复错误,AI 的服务器端可检测并自动重试,降低用户开发难度和 token 开销。
  3. 跨场景通用:无论是 ChatGPT 还是开源模型,只要支持Function Calling,就能用同一套工具。
对比项System Prompt(传统方式)Function Calling(标准化方式)
工具描述自然语言随意写(如你可以用查天气工具)JSON 格式强制规范(必须包含 name/parameters)
调用格式等 AI 猜(可能返回散文式回复)固定 JSON 结构(如 {"function_name":"..."})
错误处理开发者自己写代码重试大模型服务端自动重试

五、MCP:AI 世界的 USB-C

上文提到的 Agent 和 Tool 是怎么进行交互的?最简单的做法就是把 Agent 和 Tool 写在同一个程序里面,直接通过函数调用来完成,这也是现在大多数 agent 的做法。

但其实有些 tool 的功能其实挺通用的,可能多个 agent 都需要,但总不能在每个 agent 里面都拷贝一份相同的代码吧。

我们把 tool 变成服务,统一的托管,让所有的 agent 都来调用,这就是 mcp server。mcp 是一个通信协议,专门用来规范 agent 和 tool 服务之间是怎么交互的。运行 tool 的服务叫做 mcp server,调用它的 agent 叫做 mcp client。mcp 规定了 mcp server 如何和 mcp client 通信,以及 mcp server 有哪些接口。

mcp server 既可以和 agent 跑在同一台机器上,通过标准输入输出进行通信。也可以被部署在网络上,通过 http 进行通信。虽然 mcp 是为了通用定制出来的标准,但实际上 mcp 本身却和 ai 模型没有关系,他并不关心 agent 用的是哪个模型,mcp 只负责帮 agent 托管工具、资源。

你可以把 MCP 想象成电脑的 USB-C 接口:

  • 各种外设(如键盘、U 盘、显示器)就是不同的 MCP Server,它们提供各自独特的功能。
  • 电脑就是 AI Agent,它作为 MCP Client,通过统一的 USB-C 接口(即 MCP 协议) 来连接和使用所有外设(MCP Server)。
  • 这样一来,无论你更换电脑还是外设,只要都支持 USB-C 标准,就能即插即用,非常方便。MCP 协议正是为 AI 世界带来了这种即插即用的便利性。

如果说 Function Calling 解决的是:

'怎么调用工具'

那么 MCP 解决的是:

'工具怎么统一接入'


1、所以说,什么是 MCP?

MCP = Model Control Protocol
它把工具变成一个服务(MCP Server)。
Agent 不再直接调用工具,而是通过 MCP 协议访问。


2、完整流程示例

用户问:

女朋友肚子疼怎么办?

流程:

  1. Agent 通过 MCP 获取可用工具(如网页搜索)
  2. 转换为 Function Calling 格式
  3. AI 选择 web_browse
  4. Agent 通过 MCP 调用搜索服务
  5. 返回结果
  6. AI 生成建议

六、大模型的上下文窗口

很多人忽略这个概念,但它非常关键。

什么是上下文窗口?

就是:

模型一次对话能记住多少内容

你可以把它想象成一块黑板。

  • 黑板大:能写很多
  • 黑板小:写几行就满

当写满时:

模型会'擦掉最前面的内容'

这就是为什么:

  • 对话太长会'失忆'
  • 输入太大成本会上升
  • 回答会变慢

七、RAG:检索增强生成

最后讲一个企业级必备技术 —— RAG。

RAG = Retrieval-Augmented Generation

简单说就是:

先查资料,再生成回答。


为什么不直接把资料丢给模型?

问题:

  • 有上下文窗口限制
  • 推理成本高
  • 输入越大越慢
  • 容易幻觉

RAG 怎么做?

  1. 用户提问
  2. 向知识库检索相关片段
  3. 只把相关内容发给模型
  4. 模型基于检索结果回答

比如: 用户问产品维修政策。

RAG 不会发 200 页手册。 而是:

  • 精准找 3 段相关内容
  • 送给模型
  • 生成答案

优点:

  • 成本低
  • 更准确
  • 更快
  • 可扩展

八、整套体系串起来是什么样?

我们把今天讲的全部串起来:

用户 ↓ Agent ↓(MCP 获取工具) 工具列表 ↓(Function Calling 格式) AI 模型 ↓ 调用工具 ↓ RAG 检索知识 ↓ 生成答案 ↓ 返回用户 

九、最终总结

名词作用
user prompt用户输入
system prompt模型隐藏设定
Agent调度协调
Tool实际执行
Function Calling标准化工具调用
MCP工具接入协议
上下文窗口模型记忆容量
RAG检索增强生成

结语

AI 正在从'会聊天'进化为'能做事'。

这背后不是一个技术,而是一整套体系:

  • Agent 负责调度
  • Function Calling 负责规范调用
  • MCP 负责统一接入
  • RAG 负责精准知识增强

理解了这些,你基本就理解了当前 AI 应用的核心架构。

目录

  1. 一、什么是所谓的 user prompt
  2. 二、user prompt 和 system prompt
  3. 1、user prompt(用户提示词)
  4. 2、system prompt(系统提示词)
  5. 三、AI Agent 是怎么让 AI 干活的?
  6. 1、AI 的问题
  7. 2、Agent 的出现
  8. 3、举个完整流程例子
  9. 四、Function Calling:工具调用的标准化革命
  10. 1、工具定义(标准 JSON)
  11. 2、AI 必须按格式调用
  12. 3、Function Calling 的好处:
  13. 五、MCP:AI 世界的 USB-C
  14. 1、所以说,什么是 MCP?
  15. 2、完整流程示例
  16. 六、大模型的上下文窗口
  17. 什么是上下文窗口?
  18. 七、RAG:检索增强生成
  19. 为什么不直接把资料丢给模型?
  20. RAG 怎么做?
  21. 八、整套体系串起来是什么样?
  22. 九、最终总结
  23. 结语
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • OpenClaw 高级配置:模型容灾、多 Agent 协作与远程 macOS 控制
  • 无需训练让 LLM 支持超长输入的四种主流方案
  • 基于 daily_stock_analysis 的 AI 股票分析 Python 入门教程
  • 6 层高速 PCB 设计实战:立创逻辑派 FPGA-G1 开发板笔记
  • OSCP 实战笔记:密码攻击与 Net-NTLMv2 哈希传递
  • Spring Cloud Feign 入门实战:声明式 HTTP 客户端详解
  • ToDesk、顺网云与海马云部署 DeepSeek 大模型实测对比
  • Java 项目实战:AI 辅助开发电商系统核心功能模块
  • Protobuf 3.1.0 源码安装与 C++ 使用指南
  • URDF 与 RViz2:机器人建模基础与可视化实践
  • 前端现代化:从传统到现代的技术演进
  • Python 爬虫实战:利用 OpenCV 识别并破解滑动验证码
  • C++ 二叉搜索树(BST)原理与实现
  • EhViewer:开源免费安卓 E-Hentai 漫画浏览器安装与使用教程
  • 给 Webots 配好 Python 环境:一份踩坑记录
  • 产品经理如何利用 AI 工具提升工作效率与核心竞争力
  • Java 智能仿真无人机项目:任务处理与多线程协作
  • 10 款降低 AIGC 检测率工具免费功能横向评测
  • 2024 信奥赛 C++ 提高组 CSP-S 复赛真题及题解:决斗
  • 常见 Web 安全技术总结与入门指南

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online