大模型面试核心知识点与实战问答总结

• 前置归一化：采用 RMSNorm 替代 LayerNorm，提升训练稳定性。
• 激活函数：使用 SwiGLU 替代 ReLU，提升性能。
• 位置编码：从绝对位置嵌入改为旋转嵌入（RoPE），支持更长的上下文。
• 注意力优化：使用 Causal Multi-head Attention 的高效实现，降低显存占用。

8. SFT（监督微调）方法

• 全量微调：更新所有参数，效果最好但资源消耗大。
• 参数高效微调（PEFT）：仅更新少量参数，主流方式包括 LoRA、P-Tuning 等。
• 指令微调：使用指令 - 回复对数据进行训练，使模型遵循指令。

9. 什么是 LoRA 微调

LoRA（Low-Rank Adaptation）是一种参数高效微调技术。它冻结预训练模型权重，在层旁路添加低秩分解矩阵进行训练。相比全量微调，显存占用大幅降低，且推理时无额外延迟。

10. LangChain 概述

LangChain 是一个用于构建大语言模型应用的框架。它提供了一系列工具链，帮助开发者连接 LLM 与外部数据源、API 及工具，简化应用开发流程。

11. LangChain 的常用模块

• Prompts（提示词管理）：动态组装提示词模板。
• Memory（记忆模块）：维护对话历史状态。
• Chains（链）：将多个组件串联执行任务。
• Agents（智能体）：让模型自主调用工具解决问题。
• Document Loaders（文档加载）：读取各类数据源。

12. SFT 和 RLHF 优劣对比

13. 详细介绍 RLHF

RLHF 通常包含三个阶段：

1. SFT 阶段：训练基础模型遵循指令。
2. 奖励模型（Reward Model）训练：根据人类反馈训练一个评分模型。
3. PPO 优化：利用强化学习策略梯度（PPO）优化主模型，最大化奖励模型得分。

14. 大模型训练 OOM 问题及性能提升 Trick

OOM（Out Of Memory）常见于显存不足时。优化手段包括：

• 梯度累积：模拟大 Batch Size 但小步长更新。
• 梯度检查点（Gradient Checkpointing）：牺牲计算换显存。
• ZeRO 优化：DeepSpeed ZeRO 分片优化器状态、梯度和参数。
• 混合精度训练：使用 FP16/BF16 减少显存占用。
• 量化：使用 INT8/INT4 量化权重。

15. LLaMA 模型输入句子理论上可以无限长吗？

不可以。受限于 RoPE 位置编码的最大序列长度（Context Window）。例如 LLaMA-2-7B 默认支持 4k 上下文。超出范围会导致位置编码外推失效，性能下降。

16. 如何让大模型处理更长的文本？

• 位置插值：如 YaRN、NTK-aware Scaling，扩展 RoPE 范围。
• 滑动窗口：将长文本切分为重叠窗口分别处理。
• 摘要压缩：先对长文本生成摘要，再输入模型。
• 检索增强：只提取相关段落输入模型。

17. 大模型推理时显存中的数据组成

• 模型权重：静态存储，占大头。
• KV Cache：缓存 Key 和 Value 矩阵，随生成长度线性增长。
• 激活值：中间计算结果。
• 临时缓冲区：Attention 计算所需的临时空间。

18. ChatGLM 介绍

ChatGLM 是智谱 AI 推出的开源大模型系列。特点包括：

• 基于 GLM 架构（双向编码 + 单向解码）。
• 支持多轮对话优化。
• 提供多种参数量版本（如 6B, 13B）。
• 对中文场景有较好适配。

19. GLU 激活函数与 SwiGLU 激活函数

• GLU（Gated Linear Unit）：$f(x) = (xW+b) imes ext{sigmoid}(xV+c)$，引入门控机制。
• SwiGLU：将 sigmoid 替换为 SiLU（Swish），即 $f(x) = ext{SiLU}(xW+b) imes (xV+c)$。在 LLaMA 等模型中表现更佳，收敛更快。

20. LLaMA 1 与 LLaMA 2 的异同

• 上下文长度：LLaMA 1 为 2k，LLaMA 2 提升至 4k。
• 词汇表：LLaMA 2 扩充了 Token 数量，提升多语言支持。
• 架构微调：LLaMA 2 改进了 Attention 掩码逻辑，支持更长序列。
• 安全对齐：LLaMA 2 引入了更多安全微调数据。

21. 模型在训练和推理时各占用显存的多少？

• 训练：权重 + 梯度 + 优化器状态（Adam 动量）+ 激活值。约为权重的 3-4 倍。
• 推理：权重 + KV Cache。约为权重的 1.5-2 倍（取决于序列长度）。

22. DeepSpeed 机制详解

DeepSpeed 是微软开发的分布式训练库，核心机制为 ZeRO（Zero Redundancy Optimizer）：

• ZeRO Stage 1：分片优化器状态。
• ZeRO Stage 2：分片优化器状态 + 梯度。
• ZeRO Stage 3：分片优化器状态 + 梯度 + 模型参数。 配合 Offload 功能可将部分数据卸载至 CPU 内存。

23. 什么是混合精度训练

使用不同精度数据类型进行训练以平衡速度与显存。通常使用 FP16 或 BF16 进行前向/反向传播，FP32 维护主权重副本。需开启 Loss Scaling 防止梯度下溢。

24. Prefix LLM 和 Casual LLM

• Causal LLM（自回归）：只能看到当前及之前的 token，用于生成任务（如 GPT）。
• Prefix LLM：允许模型关注前缀之外的内容，常用于编辑任务或特定结构生成。

25. MHA 后续的计算优化工作

• FlashAttention：通过 IO 感知算法减少 HBM 读写，加速 Attention 计算。
• PagedAttention：vLLM 引入，管理 KV Cache 分页，减少碎片。
• Grouped Query Attention (GQA)：减少 KV Cache 大小，平衡速度。

26. Attention 几种常见的计算方式

• Naive Attention：$O(N^2)$ 复杂度，直接计算 Softmax(QK^T)V。
• FlashAttention：分块计算，利用 SRAM 加速。
• Sparse Attention：限制 Attention 范围，降低复杂度。
• Linear Attention：近似计算，将复杂度降为 $O(N)$。

结语

掌握上述知识点有助于应对大模型相关的技术面试。建议结合实际项目经验，深入理解底层原理与工程实践的结合。