大模型技术热门面试题精选及解答指南

7. 当前主流的开源大模型是哪个，其架构具体是怎样的？

目前生态建设最好的是 Meta 的 LLaMA 系列。架构改进包括：

• 前置归一化：采用 RMSNorm 替代 LayerNorm，提升训练稳定性。
• 激活函数：使用 SwiGLU 替代 ReLU，受 PaLM 启发。
• 位置编码：从绝对位置嵌入改为旋转位置嵌入（RoPE），受 GPT-Neo 启发。
• Attention：使用 Causal Multi-head Attention 的高效实现，降低内存占用。

8. 有哪几种 SFT 方法

• 全微调 (Full Fine-tuning)：更新所有参数。
• Adapter Tuning：插入小型适配器模块。
• Prefix/Prompt Tuning：优化前缀向量或软提示。
• LoRA (Low-Rank Adaptation)：冻结主模型，训练低秩分解矩阵。
• RLHF (Reinforcement Learning from Human Feedback)：基于人类反馈强化学习。

注：SFT 时学习率通常设为预训练阶段的 10% 左右效果较好。

9. 什么是 LoRA 微调

LoRA 通过在原始 PLM 旁路增加降维再升维的操作来模拟内在秩（Intrinsic Rank）。

• 原理：固定 PLM 参数，仅训练降维矩阵 A 与升维矩阵 B。
• 初始化：A 用随机高斯分布，B 用零矩阵，确保初始旁路为 0。
• 叠加：输出时将 BA 与 PLM 参数叠加，保持输入输出维度不变。

# 伪代码示例
import torch
import torch.nn as nn

class LoRALayer(nn.Module):
    def __init__(self, in_features, out_features, r):
        super().__init__()
        self.lora_A = nn.Linear(in_features, r, bias=False)
        self.lora_B = nn.Linear(r, out_features, bias=False)
        nn.init.normal_(self.lora_A.weight, mean=0, std=0.02)
        nn.init.zeros_(self.lora_B.weight)

    def forward(self, x):
        return self.lora_B(self.lora_A(x))

10. RAG 的检索阶段，常见的向量检索模型有哪些？

• ANN 算法：近似最近邻搜索。
• 乘积向量：压缩向量表示。
• 暴力搜索：精确但慢。
• hnswlib：分层导航小世界图，速度快。
• KD 树：适用于低维空间。

11. 针对通用的 RAG，你觉得还有哪些改进点？

• Query 侧：纠错、改写、规范化、扩展（如 HyDE）。
• 索引层：对向量数据库做层次索引，提高效率。
• 模型层：针对垂直领域微调 LLM，提升专业性。
• 输出层：后处理过滤不合理 Case。

12. 什么是 LangChain

LangChain 是为大型语言模型搭建和集成提供的框架，简化复杂任务开发。类似于神经网络开发中 TensorFlow/PyTorch 的角色，支持链式调用、记忆管理、工具集成等功能。

13. LangChain 的常用模块有哪些？

• document_loaders：文档加载。
• text_splitter：文档分块。
• embedding：向量化（如 HuggingFace）。
• vectorstores：向量存储。
• chain.RetrievalQA：检索问答链。

14. SFT 和 RLHF 优劣对比

15. 详细介绍一下 RLHF

RLHF 包含三个主要阶段：

1. 预训练 (Pre-training)：基础模型训练。
2. 监督微调 (SFT)：构建指令数据集进行微调。
3. 奖励模型训练 (Reward Modeling)：根据人类偏好训练一个评分模型。
4. PPO 优化：使用近端策略优化算法，最大化奖励模型的评分，同时通过 KL 散度惩罚防止偏离 SFT 模型过远。

该过程使模型输出更符合人类期望，减少有害内容。

16. 大模型训练经常出现一些 OOM 问题，有什么性能提升 trick

• 梯度累积：模拟大 Batch Size，减少显存峰值。
• 混合精度训练：使用 FP16/BF16 减少显存占用。
• ZeRO 优化：DeepSpeed ZeRO 分割参数、梯度和优化器状态。
• 分布式训练：多卡并行，分摊计算压力。
• 数据处理优化：使用数据流水线并行加载，减少内存驻留。
• Flash Attention：优化 Attention 计算 IO 瓶颈。

17. LLaMA 模型输入句子理论上可以无限长吗？

不可以。受限因素包括：

• 计算资源：显存容量限制。
• 训练阶段：长句子易导致梯度消失或爆炸（连乘形式损失函数）。
• 推理阶段：序列越长，预测错误率累积越高。

18. 如何让大模型处理更长的文本？

• 分块处理：重叠窗口保证连贯性。
• 架构升级：增加参数量，优化注意力机制（如 RoPE 扩展）。
• 稀疏注意力：减少计算复杂度。

19. 大模型推理时，显存中有哪几部分数据？

• 模型参数：权重本身。
• 输入数据：Token IDs。
• 计算中间结果：KV Cache 等。
• 内存管理策略：某些框架延迟释放显存以提高效率，可能导致显存占用持久化。

20. 介绍下 ChatGLM

ChatGLM 基座 GLM 兼具 Encoder 和 Decoder 能力。

• Mask 方式：
  • [mask]：BERT 形式，随机 Mask 短 Span。
  • [gmask]：GPT 形式，Mask 末尾长 Span（生成任务使用）。
• 结构变化：
  • 位置编码：旋转位置编码。
  • 激活函数：GeLU -> GLU -> SwiGLU。
  • Normalization：DeepNorm / RMSNorm。
• ChatGLM 2.0 新增：
  • FlashAttention 加速。
  • Multi-Query Attention 降低显存。

21. 介绍下 GLU 激活函数和 SwiGLU 激活函数

• GLU：门控机制，通过乘法过滤信息，增强长距离建模能力。
• SwiGLU：结合 Swish 激活函数与 GLU，公式为 $x \cdot \sigma(Wx) \cdot V$，进一步提升表达能力。

22. LLaMA1/2 的异同

• 数据：Llama 2 为 2.0T tokens，Llama 1 为 1.4T。
• 上下文：Llama 1 为 2k，Llama 2 为 4k。
• 架构细节：
  • 位置编码：均用 RoPE。
  • Normalization：Llama 1 用 LayerNorm，Llama 2 用 RMSNorm。
  • 激活函数：均采用 SwiGLU。

23. 模型在训练和推理的时候各占用显存的多少？

• 训练：约占用模型参数量的 16 倍（含优化器状态、梯度、激活值）。
• 推理：约占用模型参数量的 2 倍（FP16 为 2 字节/参数，INT8 为 1 字节/参数）。

24. 详细说说 DeepSpeed 的机制

DeepSpeed 提供数据并行优化，核心是 Ring All-Reduce 和 ZeRO。

• Ring All-Reduce：平摊通信压力，GPU 间并行通信。
• ZeRO 方案：
  • Zero1：分割 Adam 参数，Forward 无影响，Gradient 需 All-Reduce。
  • Zero2：分割 Adam 和 Gradient，减少通信量。
  • Zero3：分割参数、Adam 和 Gradient，大幅节省显存，但通信开销增加。
• Stage3 优势：以 1.5 倍通讯开销换取近 120 倍显存节省。
• Offload：将部分参数移至 CPU 内存，进一步降低 GPU 负载。

25. 什么是混合精度训练

• 数据类型：FP64(8 字节), FP32(4 字节), FP16(2 字节)。
• 优点：
  • 内存占用减半，可训练更大模型。
  • 通讯效率提高，带宽减半。
  • 计算效率更高（AI 芯片上）。
• 挑战：数据溢出、舍入误差。
• 解决方案：
  • 权重备份：维护 FP32 主副本。
  • 损失放大：Loss Scaling 避免 FP16 下溢。
  • 精度累加：累加时使用 FP32。

26. 什么是 Prefix LM 和 Casual LM

• Prefix LM：输入双向注意力，输出单向注意力（如 ChatGLM）。
• Casual LM：严格自回归，从左到右单向注意力（如 LLaMA, Qwen）。

27. 说一说针对 MHA 后续的一些计算优化工作

• KV Cache：缓存 Key/Value 矩阵，避免重复计算历史 Token。
• MQA (Multi-Query Attention)：多个 Head 共享一组 KV，减少显存。
• GQA (Grouped-Query Attention)：Head 分组共享 KV，平衡 MQA 与 MHA。
• FlashAttention：分块计算，减少 HBM 与 SRAM 间 IO 传输。

28. 说说 Attention 几种常见的计算方式

• Self-Attention：标准 Transformer 机制。
• DIN Attention：保留权重原始信号强度，不 Softmax 归一化，利用 Sigmoid 限制 0-1，保留差异性。

总结与建议

掌握大模型技术需要理论与实践结合。建议按以下路径进阶：

1. 系统设计：理解 RAG、Agent 架构。
2. 提示工程：掌握 Prompt 设计与优化。
3. 应用开发：使用 LangChain 构建实际系统。
4. 微调实战：掌握 LoRA、QLoRA 等高效微调技术。
5. 部署优化：学习量化、推理加速工具。

通过系统性学习，能够胜任大模型全栈工程岗位，解决企业级 AI 落地需求。