PythonAI算法

LLM 大模型基础知识与核心概念详解

本文系统介绍了大型语言模型（LLM）的基础知识，涵盖 Base 与 Chat 模型区别、多模态与 Agent 类型、以及推理、提示词、RAG、微调、量化、评估与部署等核心技术。文章梳理了国内外主流开源模型发展历程，解析了模型优化策略与工程化落地方案，并为学习者提供了从理论到实践的系统化建议，旨在帮助读者全面理解 LLM 技术栈及其应用场景。

邪神洛基发布于 2025/2/6更新于 2026/4/212 浏览

LLM 大模型基础知识与核心概念详解

1. 前言

随着人工智能技术的飞速发展，大型语言模型（Large Language Model, LLM）已成为当前技术领域的热点。2023 年以来，全球开源社区迎来了爆发式增长，众多研究机构和企业发布了性能卓越的开源模型，推动了 AI 技术的普及与应用。

1.1 基础模型发展回顾

近年来，国内模型研究机构的开源模型取得了显著进展：

智谱 AI：发布了 ChatGLM-6B 系列，基于 GLM 架构，支持中英双语问答。结合量化技术，用户可在消费级显卡上部署。后续推出了多模态 CogVLM 系列及代码领域 CodeGeex 系列。
百川智能：发布百川 -7B 模型，基于 Transformer 结构，在约 1.2 万亿 tokens 上训练，支持中英双语。后续发布了 13B 及百川 2 系列，同步开源 base 和 chat 版本。
上海人工智能实验室：发布'书生通用大模型体系'，包括书生·浦语等基础模型，并在模型、数据、工具和评测层面进行全方位开源。
阿里巴巴：开源通义千问（Qwen）系列，覆盖 1.8B 至 72B 多种尺寸，并推出视觉和语音多模态模型，实现了'全尺寸、全模态'开源。
昆仑万维：发布天工 Skywork-13B 系列，配套开源了超大高质量中文数据集 Skypile。
01-AI：发布 Yi 系列模型，参数规模介于 60 亿至 340 亿之间，在多项基准测试中表现优异。

1.2 模型定制新范式

行业定制模型通常需要在预训练模型基础上通过微调实现。社区贡献者通过微调方式，持续在各个方向探索，丰富了行业模型生态：

通用大模型：如 IDEA Lab 发布的姜子牙模型，具备翻译、编程、文本分类等能力。
多语言模型：OpenBuddy 强调对英语、中文等多语言的无缝支持。
代码领域：Codefuse 和 wisdomshell 专注于提升开发者效率。
垂直领域：FinGLM 和通义金融模型专注金融行业；高校实验室推动开源模型在司法、教育、医疗等领域的应用。

2. LLM 类型介绍

2.1 Base 模型和 Chat 模型

Base 模型：基础模型是在海量不同文本上训练出来的预测后续文本的模型。其输出未必是对指令的响应，更多是文本续写。
Chat 模型：对话模型是在 Base 基础上通过对话记录（指令 - 响应）继续做微调和强化学习，使其能够遵循指令，生成符合人类预期的助手响应内容。

2.2 多模态模型

多模态 LLM 将文本与其他模态信息（图像、视频、音频等）结合，接受多种类型数据训练，有助于找到不同模态间的关系，完成图片描述、音乐解读、视频理解等任务。

2.3 Agent 模型

LLM 具备 Agent 大脑的能力，与关键组件协作：

规划（Planning）：子目标拆解、纠错、反思和完善。
记忆（Memory）：短期记忆（上下文）、长期记忆（通过搜索或向量引擎实现）。
工具使用（Tool Use）：模型学习调用外部 API 获取额外能力。

2.4 Code 模型

Code 模型在预训练和 SFT 中加入了更多代码数据占比，擅长代码补齐、纠错及零样本编程任务。针对不同编程语言（如 Python、Java）也有专业模型。

3. 使用 LLM 及优化输出效果

大语言模型根据跨学科海量文本数据训练而成，接近'AGI'。为了更好地使用 LLM，需掌握以下关键技术。

3.1 模型推理

模型推理指利用训练好的模型进行运算，利用输入的新数据一次性获得结论的过程。

分词：提示词被拆分为标记列表，每个令牌由唯一数字表示。
Embedding：数字标记转换为固定大小的向量，形成 Embedding 矩阵。
Transformer 处理：嵌入矩阵作为 Transformer 输入，经过多层 Layer 计算，包含 Self-Attention 机制。
Logits 生成：神经网络输出 Logits，表示下一个标记的概率。
采样：使用采样技术选择下一个标记，重复过程直到生成结束符（EOS）。

3.2 Prompt（提示词）

Prompt 是与 LLM 互动最常用的方式。开源大模型引入了 System 消息和人工 Prompt 的概念，可根据提示提供更多控制。例如：'使用李白的口吻，写一首描述杭州冬天的诗'。

3.3 Few-shot Prompt

通过在 Prompt 中增加输入和首选优质输出的示例，可增强 LLM 的回答效果。但需注意上下文窗口限制，过多的示例会增加 Token 消耗并影响响应速度。

3.4 LLM + RAG

检索增强生成（RAG）通过整合外部数据库知识，解决 LLM 幻觉、过时知识及推理不透明的问题。RAG 协同作用将 LLM 内在知识与广泛的外部动态存储库结合，特别适用于知识密集型任务。

3.5 模型微调

微调向开源 LLM 提供额外数据，使其具备新知识或改变生成结果。相比 Few-shot Prompting，微调能更好地控制生成结果，解决 Token 消费高、响应慢及上下文窗口不足的问题。但需注意微调可能导致通用能力下降，需客观评估。

常用高效微调方法包括 LoRA、QLoRA 等。框架如 SWIFT 集成了多种微调方法，使开发者可在单张商业级显卡上微调推理 LLM 模型。

3.6 模型量化

模型量化使用低精度数据类型（如 int8）代替传统 float32，减少内存占用和计算需求，便于资源受限设备部署。主要量化工具包括 bnb、GPTQ、AWQ。

3.7 模型评估

LLM 评估涉及文本对话、生成、多模态、安全、专业技能等多个维度。评估方式分为人工评估和自动评估。自动评估又分为基于规则（Rule-based）和基于模型（Model-based）。基于规则面向客观题，基于模型用于评价主观题，通过专家模型评价生成效果。

3.8 模型推理加速和部署

主流平台支持将模型托管在服务器或云上，创建 API 接口或 Web 应用。常见部署方案包括：

无代码部署：通过简单选择即可部署模型到云上并生成 API 接口。
SDK 部署：支持通过 Python SDK 在云上部署模型。
推理加速：集成 vLLM 等工具，实现更快更高效的推理服务。
多端异构部署：支持 GGUF/GGML 格式，可部署到 CPU 甚至个人笔记本电脑。
分布式部署：支持一行代码部署，兼容 Web UI 和 OpenAI RESTful API。

3.9 模型应用 - Agent

交互式智能体框架用于创建针对现实应用量身定制的智能体。围绕可插拔和可定制的 LLM 构建，增强了指令执行、知识检索和工具利用能力。交互界面包括智能体构建器、用户智能体及配置设置工具。

4. 学习建议与未来展望

对于希望深入大模型 AI 的学习者，建议遵循以下路径：

理论基础：理解 Transformer 架构、注意力机制及概率语言模型原理。
实践操作：熟悉 Hugging Face Transformers 库，尝试加载开源模型进行推理。
微调实战：掌握 LoRA/QLoRA 技术，在特定数据集上进行微调实验。
工程部署：学习 Docker、Kubernetes 及推理加速框架，将模型落地到生产环境。
关注前沿：跟踪最新论文与开源项目，了解 Agent、多模态等发展方向。

大模型技术仍在快速演进，从单一文本处理向多模态、Agent 自主决策方向发展。掌握核心原理与工程能力，将在未来的 AI 时代保持竞争优势。

LLM 大模型基础知识与核心概念详解

LLM 大模型基础知识与核心概念详解

1. 前言

1.1 基础模型发展回顾

1.2 模型定制新范式

2. LLM 类型介绍

2.1 Base 模型和 Chat 模型

2.2 多模态模型

2.3 Agent 模型

2.4 Code 模型

3. 使用 LLM 及优化输出效果

3.1 模型推理

3.2 Prompt（提示词）

3.3 Few-shot Prompt

3.4 LLM + RAG

3.5 模型微调

3.6 模型量化

3.7 模型评估

3.8 模型推理加速和部署

3.9 模型应用 - Agent

4. 学习建议与未来展望

更多推荐文章

相关免费在线工具

LLM 大模型基础知识与核心概念详解

LLM 大模型基础知识与核心概念详解

1. 前言

1.1 基础模型发展回顾

1.2 模型定制新范式

2. LLM 类型介绍

2.1 Base 模型和 Chat 模型

2.2 多模态模型

2.3 Agent 模型

2.4 Code 模型

3. 使用 LLM 及优化输出效果

3.1 模型推理

3.2 Prompt（提示词）

3.3 Few-shot Prompt

3.4 LLM + RAG

3.5 模型微调

3.6 模型量化

3.7 模型评估

3.8 模型推理加速和部署

3.9 模型应用 - Agent

4. 学习建议与未来展望

微信扫一扫，关注极客日志

更多推荐文章

相关免费在线工具