大模型（LLMs）面试题库汇总：基础、微调、RAG 与推理

Cross Attention

• 一、为什么需要跨注意力机制（Cross-Attention）？
• 二、介绍一些跨注意力机制（Cross-Attention）？
• 三、Cross Attention 和 Self Attention 篇
  • 3.1 Cross Attention 和 Self Attention 都是基于注意力机制的，有什么相同点？
  • 3.2 Cross Attention 和 Self Attention 都是基于注意力机制的，有什么不同点？
• 四、Cross Attention 和多头注意力（Multi-Head Attention）篇
  • 4.2 Cross Attention 和多头注意力（Multi-Head Attention）都是基于注意力机制的，有什么异同点？
• 五、Cross Attention 代码实现
• 六、Cross Attention 应用场景
• 七、Cross Attention 的优势和挑战？

BERT 相关

• 2. 如何利用 transformers 加载 Bert 模型？
• 3. 如何利用 transformers 输出 Bert 指定 hidden_state？
• 4. BERT 获取最后一层或每一层网络的向量输出

损失函数与相似度

• 一、介绍一下 KL 散度？
• 二、写一下，物理意义是什么？
• 三、KL 散度与交叉熵的区别？
• 四、多任务学习各 loss 差异过大怎样处理？
• 五、分类问题为什么用交叉熵损失函数不用均方误差（MSE）？
• 六、什么是信息增益？
• 七、多分类的分类损失函数 (Softmax)？
• 八、softmax 和交叉熵损失怎么计算，二值交叉熵呢？
• 九、如果 softmax 的 e 次方超过 float 的值了怎么办？

相似度与对比学习

• 一、除了 cosin 还有哪些算相似度的方法
• 二、了解对比学习嘛？
• 三、对比学习负样本是否重要？负样本构造成本过高应该怎么解决？

生成式与大模型特性

• 一、什么是生成式大模型？
• 二、大模型是怎么让生成的文本丰富而不单调的呢？
• 三、LLMs 复读机问题
  • 3.1 什么是 LLMs 复读机问题？
  • 3.2 为什么会出现 LLMs 复读机问题？
  • 3.3 如何缓解 LLMs 复读机问题？
• 四、llama 系列问题
  • 4.1 llama 输入句子长度理论上可以无限长吗？
• 五、什么情况用 Bert 模型，什么情况用 LLaMA、ChatGLM 类大模型，咋选？
• 六、各个专业领域是否需要各自的大模型来服务？
• 七、如何让大模型处理更长的文本？

二、大模型（LLMs）微调面

• 39. 大模型 sft 过程中，为什么会出现第二个 epoch 的时候 loss 会突然下降问题？
• 1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？
• 2. 为什么 SFT 之后感觉 LLM 傻了？
• 3. SFT 指令微调数据如何构建？
  • 3.1 提升 sft 的 prompt 的代表性有什么好的方法？
  • 3.2 提升 sft 的 prompt 的数据量有什么好的方法？
• 4. 领域模型 Continue PreTrain 数据选取？
• 5. 领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力？
• 6. 领域模型 Continue PreTrain，如何让模型在预训练过程中就学习到更多的知识？
• 7. 进行 SFT 操作的时候，基座模型选用 Chat 还是 Base？
• 8. 领域模型微调指令&数据输入格式要求？
• 9. 领域模型微调领域评测集构建？
• 10. 领域模型词表扩增是不是有必要的？
• 11. 如何训练自己的大模型？
• 12. 训练中文大模型有啥经验？
• 13. 指令微调的好处？
• 14. 预训练和微调哪个阶段注入知识的？
• 15. 想让模型学习某个领域或行业的知识，是应该预训练还是应该微调？

SFT 开发流程

• 一、常见 SFT 的开发流程是如何的？
• 二、训练数据要注重什么？
• 三、大 size 和小 size 模型的选择？
• 四、多任务训练时怎么确保每个任务都优秀？
• 五、SFT 真的不能学到知识？
• 六、怎么科学挑选数据集？

训练策略

• 分布式训练框架选择？
• LLMs 训练时有哪些有用的建议？
• 模型大小如何选择？
• 加速卡如何选择？

三、大模型（LLMs）LangChain 面

• 一、什么是 LangChain？
• 二、LangChain 包含哪些核心概念？
  • 2.1 LangChain 中 Components and Chains 是什么？
  • 2.2 LangChain 中 Prompt Templates and Values 是什么？
  • 2.3 LangChain 中 Example Selectors 是什么？
  • 2.4 LangChain 中 Output Parsers 是什么？
  • 2.5 LangChain 中 Indexes and Retrievers 是什么？
  • 2.6 LangChain 中 Chat Message History 是什么？
  • 2.7 LangChain 中 Agents and Toolkits 是什么？

Agent 上下文

• 一、前言
• 二、Agent 如何获取上下文对话信息？
  • 2.1 获取全量历史对话
  • 2.2 滑动窗口获取最近部分对话内容

四、大模型（LLMs）RAG 检索增强生成面

5.1 RAG 入门篇

• 一、基于 LLM+ 向量库的文档对话基础面
  • 1.1 为什么大模型需要外挂 (向量) 知识库？
  • 1.2. 基于 LLM+ 向量库的文档对话思路是怎么样？
  • 1.3. 基于 LLM+ 向量库的文档对话核心技术是什么？
  • 1.4. 基于 LLM+ 向量库的文档对话 prompt 模板如何构建？

RAG 模块详解

• 一、LLMs 已经具备了较强能力了，存在哪些不足点？
• 二、什么是 RAG?
  • 2.1 R：检索器模块
    • 2.1.1 如何获得准确的语义表示？
    • 2.1.2 如何协调查询和文档的语义空间？
    • 2.1.3 如何对齐检索模型的输出和大语言模型的偏好？
  • 2.2 G：生成器模块
    • 2.2.1 生成器介绍
    • 2.2.2 如何通过后检索处理提升检索结果？
    • 2.2.3 如何优化生成器应对输入数据？
• 三、使用 RAG 的好处？

5.2 RAG 版面分析篇

• 一、为什么需要进行 pdf 解析？
• 二、pdf 解析有哪些方法，对应的区别是什么？
• 三、pdf 解析存在哪些问题？

表格识别

• 一、为什么需要识别表格？
• 二、介绍一下表格识别任务？
• 三、有哪些表格识别方法？
  • 3.1 传统方法
  • 3.2 pdfplumber 表格抽取
    • 3.2.1 pdfplumber 如何进行表格抽取？
    • 3.2.2 pdfplumber 常见的表格抽取模式？

文本分块

• 一、为什么需要对文本分块？
• 二、能不能介绍一下常见的文本分块方法？
  • 2.1 一般的文本分块方法
  • 2.2 正则拆分的文本分块方法
  • 2.3 Spacy Text Splitter 方法
  • 2.4 基于 langchain 的 CharacterTextSplitter 方法

5.3 RAG 检索策略篇

• 一、为什么需要使用大模型辅助召回？
• 策略一：HYDE
  • 1. 介绍一下 HYDE 思路？
  • 1. 介绍一下 HYDE 问题？
• 策略二：FLARE
  • 1. 为什么需要 FLARE？
  • 1. FLARE 有哪些召回策略？

负难样本

• 一、为什么需要构建负难样本？
• 二、负难样本构建方法篇
  • 2.1 随机采样策略（Random Sampling）方法
  • 2.2 Top-K 负例采样策略（Top-K Hard Negative Sampling）方法

5.4 RAG 评测篇

• 一、为什么需要对 RAG 进行评测？
• 二、RAG 有哪些评估方法？
• 三、RAG 有哪些关键指标和能力？
• 四、RAG 有哪些评估框架？

5.5 RAG 优化策略篇

• 一、RAG 基础功能篇
  • 1.1 RAG 工作流程
• 二、RAG 各模块有哪些优化策略？
• 三、RAG 架构优化有哪些优化策略？
  • 3.1 如何利用知识图谱（KG）进行上下文增强？
    • 3.1.1 典型 RAG 架构中，向量数据库进行上下文增强存在哪些问题？
    • 3.1.2 如何利用知识图谱（KG）进行上下文增强？

RAG 常见问题

• 前言
• 问题一：内容缺失问题
  • 1.1 介绍一下内容缺失问题？
  • 1.2 如何解决内容缺失问题？
• 问题二：错过排名靠前的文档
  • 2.1 介绍一下错过排名靠前的文档问题？
  • 2.2 如何解决错过排名靠前的文档问题？
• 问题三：脱离上下文 — 整合策略的限制
  • 3.1 介绍一下脱离上下文 — 整合策略的限制问题？
  • 3.2 如何解决脱离上下文 — 整合策略的限制问题？
• 问题四：未能提取答案
  • 4.1 介绍一下未能提取答案问题？
  • 4.2 如何解决未能提取答案问题？

RAG-Fusion

• 一、RAG 有哪些优点？
• 二、RAG 存在哪些局限性？
• 三、为什么需要 RAG-Fusion？
• 四、说一下 RAG-Fusion 核心技术？
• 五、说一下 RAG-Fusion 工作流程？

5.6 Graph RAG 篇

• 一、为什么需要 Graph RAG？
• 二、什么是 Graph RAG？
• 三、Graph RAG 思路介绍？
• 四、用代码介绍 Graph RAG？
• 五、用示例介绍 Graph RAG？
• 六、Graph RAG 排序优化方式？

五、大模型（LLMs）参数高效微调 (PEFT) 面

• 1. 微调方法是啥？如何微调？
• 1. 为什么需要 PEFT？
• 1. 介绍一下 PEFT？
• 1. PEFT 有什么优点？

Adapter-tuning

• 一、为什么需要适配器微调（Adapter-tuning）？
• 二、适配器微调（Adapter-tuning）思路？
• 三、适配器微调（Adapter-tuning）特点是什么？
• 四、AdapterFusion 思路是什么？

Prompting

• 一、为什么需要提示学习（Prompting）？
• 二、什么是提示学习（Prompting）？
• 三、提示学习（Prompting）有什么优点？
• 四、提示学习（Prompting）有哪些方法，能不能稍微介绍一下它们间？
  • 4.1 前缀微调（Prefix-tining）篇
    • 4.1.1 为什么需要前缀微调（Prefix-tining）？
    • 4.1.2 前缀微调（Prefix-tining）思路是什么？
    • 4.1.3 前缀微调（Prefix-tining）的优点是什么？
    • 4.1.4 前缀微调（Prefix-tining）的缺点是什么？

LoRA 篇

• 一、LoRA 篇
  • 1.1 什么是 LoRA？
  • 1.2 LoRA 的思路是什么？
  • 1.3 LoRA 的特点是什么？
  • 1.4 简单描述一下 LoRA？
  • 1.5 解释一下 LORA 微调的原理和计算流程？

LoRA 变体篇

• 二、LoRA 变体篇
  • 2.1 QLoRA 篇
    • 2.1.1 QLoRA 的思路是怎么样的？
    • 2.1.2 QLoRA 的特点是什么？
    • 2.1.3 QLORA 相比 LORA 做了哪些改进？
  • 2.2 AdaLoRA 篇
    • 2.2.1 AdaLoRA 的思路是怎么样的？
  • 2.3 LongLoRA 篇
    • 2.3.1 为什么需要 LongLoRA？
    • 2.3.2 LongLoRA 思路是什么？
    • 2.3.3 介绍一下 shift short attention？

LoRA 配置与优化

• 三、Lora 的矩阵怎么初始化？为什么要初始化为全 0？
• 一、前言
• 二、如何配置 LoraConfig？
• 三、模型加入 PEFT 策略
  • 3.1 模型加载策略有哪些？
  • 3.2 模型显存占用的部分有哪些？
  • 3.3 模型显存占用优化策略？
    • 3.3.1 8bit 量化优化策略？
    • 3.3.2 梯度检查优化策略？
  • 3.4 如何向模型加入 PEFT 策略？

微调方案选择

• 一、SFT 微调方案如何选择？
• 二、Full Fine Tuning vs Parameter-Efficient Fine-Tuning
• 三、Full Fine Tuning 篇
  • 3.1 介绍一下 Full Fine Tuning？
  • 3.2 介绍一下 Full Fine Tuning 优点？
  • 3.3 介绍一下 Full Fine Tuning 缺点？
• 四、Parameter-Efficient Fine-Tuning 篇
  • 4.1 介绍一下 Parameter-Efficient Fine-Tuning？
• 五、LoRA 篇
  • 5.1 介绍一下 LoRA？
  • 5.2 介绍一下 LoRA 流程？
  • 5.3 介绍一下 LoRA 优点？
  • 5.4 介绍一下 LoRA 缺点？
• 六、QLoRA 篇
  • 6.1 介绍一下 QLoRA？
  • 6.2 介绍一下 QLoRA 流程？

六、大模型（LLMs）推理面

• 1. 为什么大模型推理时显存涨的那么多还一直占着？
• 1. 大模型在 gpu 和 cpu 上推理速度如何？
• 1. 推理速度上，int8 和 fp16 比起来怎么样？
• 1. 大模型有推理能力吗？

推理过程与指标

• 一、推理过程分哪些阶段？
  • 1.1 Prefill（输入理解与初始化）阶段
  • 1.2 Decoding（递归推理与解码输出）阶段
• 二、推理性能的评价指标？
  • 2.1 Throughput（吞吐量）
  • 2.2 First Token Latency（首字延迟）
  • 2.3 Latency（延迟）
  • 2.4 QPS（每秒请求数）

七、大模型（LLMs）增量预训练篇

• 1. 为什么要增量预训练？
• 1. 进行增量预训练需要做哪些准备工作？
• 1. 增量预训练所用训练框架？
• 1. 增量预训练训练流程是怎么样？

拼接策略

• 一、Pretrain 阶段，为什么需要拼接拼接？
• 二、有哪些拼接方式？
  • 2.1 拼接方式一：Random Concatenate
  • 2.2 拼接方式二：Random Concatenate + NoiseMask
  • 2.3 拼接方式三：Random Concatenate + Cluster
  • 2.4 IN-CONTEXT PRETRAINING

Llama2 二次预训练

• 一、为什么需要对 llama2 做基于 lora 的二次预训练？
• 二、基于 lora 的 llama2 二次预训练的目标是什么？
• 三、基于 lora 的 llama2 二次预训练的思想是什么？
• 四、基于 lora 的 llama2 二次预训练语料构建思路？

模型评测

• 1. 大模型怎么评测？
• 2. 大模型的 honest 原则是如何实现的？模型如何判断回答的知识是训练过的已知的知识，怎么训练这种能力？
• 3. 如何衡量大模型水平？
• 4. 大模型评估方法有哪些？

八、大模型（LLMs）强化学习面

• 1. 简单介绍强化学习？
• 2. 简单介绍一下 RLHF？
• 3. 奖励模型需要和基础模型一致吗？
• 4. RLHF 在实践过程中存在哪些不足？
• 5. 如何解决人工产生的偏好数据集成本较高，很难量产问题？
• 6. 如何解决三个阶段的训练（SFT->RM->PPO）过程较长，更新迭代较慢问题？
• 7. 如何解决 PPO 的训练过程同时存在 4 个模型（2 训练，2 推理），对计算资源的要求较高问题？
• 8. 强化学习跟大语言模型的本质联系是什么？

RLHF Pipeline

• 一、介绍一下 LLM 的经典预训练 Pipeline？
• 二、预训练（Pre-training）篇
  • 2.1 具体介绍一下预训练（Pre-training）？
• 三、有监督微调（Supervised Tinetuning）篇
  • 3.1 具体介绍一下有监督微调（Supervised Tinetuning）？
  • 3.2 有监督微调（Supervised Tinetuning）的训练数据格式是什么样？
  • 3.3 预训练（Pre-training）vs 有监督微调（Supervised Tinetuning）区别？
• 四、对齐（Alignment）篇
  • 4.1 简单介绍一下对齐（Alignment）？

PPO 与 DPO

• 一、大语言模型 RLHF 中的 PPO 主要分哪些步骤？
• 二、举例描述一下大模型的 RLHF？
• 三、大语言模型 RLHF 采样篇
  • 3.1 什么是 PPO 中采样过程？
  • 3.2 介绍一下 PPO 中采样策略？
  • 3.3 PPO 中采样策略中，如何评估'收益'？
• 四、在 PPO 过程中，reward model 的效果上会有什么问题？

DPO 篇

• RLHF 平替算法 DPO 篇
• 一、DPO vs RLHF？
• 二、介绍一下 DPO 的损失函数？
• 三、DPO 微调流程？
• 四、说一下 DPO 是如何简化 RLHF 的？
• 五、DPO 的第 0 步 loss 是固定的么？如果固定的话，值是多少？
• 六、DPO 是一个 on-policy 还是 off-policy 的算法，以及这样的算法有什么优劣？
• 七、DPO 公式是由 PPO 的 objective 公式推导过来的，为什么 DPO 是 off-policy 算法，而 PPO 是 on-policy 算法，到底哪一步推导出了问题？

Reward Model

• 1. 介绍一下 RM 模型？
• 2. 为什么需要 RM 模型？
• 3. RM 模型训练数据如何构建？
• 4. reward 模型训练步骤中，为什么这一步骤在标注数据过程中不让人直接打分，而是去标排列序列呢？
• 5. reward 模型的 loss 是怎么计算的？

强化学习基础

• 一、强化学习基础面
  • 1.1 介绍一下强化学习？
  • 1.2 介绍一下强化学习的状态（States）和观测（Observations）？
  • 1.3 强化学习有哪些动作空间（Action Spaces），他们之间的区别是什么？

九、大模型（LLMs）训练集面

• SFT（有监督微调）的数据集格式？
• RM（奖励模型）的数据格式？
• PPO（强化学习）的数据格式？

数据集格式

• 四、大模型微调数据集格式篇
• 一、SFT 数据集如何生成？
• 二、Self-Instruct 篇

十、大模型（LLMs）显存问题面

• 大模型大概有多大，模型文件有多大？
• 能否用 4 * v100 32G 训练 vicuna 65b？
• 如果就是想要试试 65b 模型，但是显存不多怎么办？
• nB 模型推理需要多少显存？

显存优化

• 一、介绍一下 gradient accumulation 显存优化方式？
• 二、介绍一下 gradient checkpointing 显存优化方式？

十一、大模型（LLMs）分布式训练面

• 1. 理论篇
  • 1.1 训练大语言模型存在问题？
  • 1.2 什么是点对点通信？
  • 1.3 什么是集体通信？
  • 1.4 什么是数据并行？
  • 1.5 数据并行如何提升效率？
  • 1.6 什么是流水线并行？
  • 1.7 什么是张量并行 (intra-layer)？
  • 1.8 数据并行 vs 张量并行 vs 流水线并行？
  • 1.9 什么是 3D 并行？
  • 1.10 想要训练 1 个 LLM，如果只想用 1 张显卡，那么对显卡的要求是什么？
  • 1.11 如果有 N 张显存足够大的显卡，怎么加速训练？
  • 1.12 如果显卡的显存不够装下一个完整的模型呢？
  • 1.13 PP 推理时，是一个串行的过程，1 个 GPU 计算，其他空闲，有没有其他方式？
  • 1.14 3 种并行方式可以叠加吗？
  • 1.15 Colossal-AI 有 1D/2D/2.5D/3D，是什么情况？
  • 1.16 除了 3D 并行有没有其他方式大规模训练？
  • 1.17 有了 ZeRO 系列，为什么还需要 3D 并行？
  • 1.18 平民适不适合玩 3D 并行？
  • 1.19 平民适不适合直接上多机多卡的 ZeRO3（万兆网）？
  • 1.20 分布式并行及显存优化技术并行技术有哪一些，都有什么特点？
  • 1.21 显存优化技术有哪一些，都有什么特点？
  • 1.22 常见的分布式训练框架哪一些，都有什么特点？
• 2. 实践篇
  • 2.1 假如有超多的 8 卡 A100 节点（DGX A100），如何应用 3D 并行策略？
  • 2.2 如果想构这样一个大规模并行训练系统，训练框架如何选？
  • 2.3 训练框架如何选？

并行技术细节

• 为什么需要流水线并行（Pipeline Parallelism）？
• 一、流水线并行（Pipeline Parallelism）优化目标是什么？
• 为什么需要 nn.DataParallel？
• 一、pytorch 中的 GPU 操作默认是什么样？
• 二、介绍一下 nn.DataParallel 函数？
• 三、nn.DataParallel 函数处理逻辑介绍一下？
• 为什么需要 nn.parallel.DistributedDataParallel？
• 一、什么是 DistributedDataParallel 核心 —— Ring-AllReduce？
• 二、nn.parallel.DistributedDataParallel 函数介绍一下？
• 三、nn.parallel.DistributedDataParallel 函数如何多卡加速训练？
• 一、torch.multiprocessing 函数介绍一下？
• 二、torch.multiprocessing 函数如何使用？
• 为什么需要 AMP 混合精度训练？
• 一、什么是自动混合精度训练 (AMP)
• 二、为什么需要自动混合精度？
• 三、混合精度训练的优点是什么？

DeepSpeed 与 Accelerate

• 一、为什么需要 Deepspeed？
• 二、DeepSpeed 基本概念介绍一下？
  • 2.1 DeepSpeed 介绍
  • 2.2 DeepSpeed 基础的概念
  • 2.3 DeepSpeed 支持的功能
• 三、DeepSpeed 通信策略介绍一下？
• 四、DeepSpeed 如何使用？
  • 4.1 DeepSpeed 安装
  • 4.2 DeepSpeed 使用
• 一、为什么需要 accelerate 分布式训练？
• 二、什么是 accelerate 分布式训练？
• 一、什么是 3D 并行？
• 二、3D 并行策略有哪些？
• 三、为什么需要 ZeRO？
• 一、为什么大模型分布式训练需要故障恢复？
• 二、如何获取最优的 ckpt 存储间隔？
• 三、ckpt 存储能否实现异步或者部分掩盖？
• 1、Activation Recomputation 是怎么实现的？
• 2、Megatron 中的 OverlappedDistributed Optimizer 是如何实现的？
• 3、Megatron-LM 中 Context Parallel 篇
  • 3.1 介绍一下 Megatron-LM 中 Context Parallel 实现原理？

数据并行 Trick

• 一、数据并行 Trick 篇
  • 1.1 数据并行 FSDP
  • 1.2 数据并行 DDP
  • 1.3 数据并行 ZeRO
    • 1.3.1 Model state
    • 1.3.2 Residual state
    • 1.3.3 offload

分布式训练问题

• 一、使用 DistributedDataParallel（分布式并行）时，显存分布不均衡问题
• 二、如果是用 pytorch 实现同步梯度更新，自研数据接口，出现第一个 epoch 结尾处程序卡死问题

十二、大模型（LLMs）Agent 面

• 一、什么是大模型（LLMs）agent？
• 二、大模型（LLMs）agent 有哪些部分组成？
  • 2.1 介绍一下规划（planning）？
    • 2.1.1 拆解子目标和任务分解
      • 2.1.1.1 如何进行拆解子目标和任务分解？
      • 2.1.1.2 拆解子目标和任务分解有哪些方法？
    • 2.1.2 模型自我反省
      • 2.1.2.1 如何进行模型自我反省？
      • 2.1.2.2 模型自我反省有哪些方法？
  • 2.2 介绍一下记忆（Memory）？
  • 2.3 介绍一下工具使用（tool use）？
• 三、大模型（LLMs）agent 主要利用了大模型哪些能力？

函数调用 Function Call

• 一、为什么需要函数调用 (function call)？
• 二、什么是函数调用 (function call)？
• 开源模型 Function Call 方案有哪些？
• Llama 3.1
• 对话协议（Chat Protocal）
• Tool Call Template 样式

位置编码

• 一、什么是位置编码？
• 二、为什么需要位置编码？
• 三、什么是绝对位置编码？
  • 3.1 训练式位置编码篇
• 四、什么是相对位置编码？
• 五、旋转位置编码 RoPE 篇
  • 5.1 旋转位置编码 RoPE 思路是什么？
• 六、长度外推问题篇
  • 6.1 什么是长度外推问题？
  • 6.2 长度外推问题的解决方法有哪些？
• 七、ALiBi (Attention with Linear Biases) 篇
  • 7.1 ALiBi (Attention with Linear Biases) 思路是什么？

十三、LLMs Tokenizer 篇

• LLMs Tokenizer 篇
• Byte-Pair Encoding(BPE) 篇
  • 1. 介绍一下 Byte-Pair Encoding(BPE)？
  • 2. Byte-Pair Encoding(BPE) 如何构建词典？
  • 3. Byte-Pair Encoding(BPE) 具有什么优点？
  • 4. Byte-Pair Encoding(BPE) 具有什么缺点？
  • 5. 手撕 Byte-Pair Encoding(BPE)？
• Byte-level BPE 篇
  • 1. 介绍一下 Byte-level BPE？
  • 2. Byte-level BPE 如何构建词典？
  • 3. Byte-level BPE 具有什么优点？
  • 4. Byte-level BPE 具有什么缺点？
• WordPiece 篇

中文 Tokenization

• 一、为什么需要构建中文 tokenization？
• 二、如何对原始数据预处理？
• 三、如何构建中文的词库？

继续预训练

• 一、为什么需要进行继续预训练？
• 二、如何对继续预训练数据预处理？
• 三、如何构建模型？
• 四、如何使用模型？

指令微调

• 一、为什么需要对预训练模型进行指令微调？
• 二、对预训练模型进行指令微调数据如何处理？
• 三、对预训练模型进行指令微调 tokenization 如何构建？
• 四、对预训练模型进行指令微调模型如何构建？
• 五、是否可以结合其他库使用？

十四、大模型（LLMs）加速篇

• 大模型 (LLM) 部署框架对比篇
• 一、为什么需要对大模型推理加速？
• 二、大模型 (LLM) 部署框架对比总览
• 三、大模型 (LLM) 部署优化策略

推理过程与指标

• 一、推理过程分哪些阶段？
  • 1.1 Prefill（输入理解与初始化）阶段
  • 1.2 Decoding（递归推理与解码输出）阶段
• 二、推理性能的评价指标？
  • 2.1 Throughput（吞吐量）
  • 2.2 First Token Latency（首字延迟）
  • 2.3 Latency（延迟）
  • 2.4 QPS（每秒请求数）
• 三、当前优化模型最主要技术手段有哪些？

推理框架

• 1. 当前优化模型最主要技术手段有哪些？
• 2. 推理加速框架有哪一些？都有什么特点？
• 3. vLLM 篇
  • 3.1 vLLM 的功能有哪些？
• 一、介绍一下 LLMs 的文本生成过程？
• 二、如何准确衡量模型的推理速度呢？
• 三、如果对整体推理时延有具体目标，有哪些有效的启发式方法来评估模型？

vLLM 与 PagedAttention

• 一、vLLM 用于大模型并行推理加速存在什么问题？
• 二、vLLM 如何优化大模型并行推理加速？
• 三、什么是 PagedAttention？
• 一、引言
  • 1.1 前言
  • 1.2 为什么需要 vLLM？
  • 1.3 vLLM 具有哪些特点？
  • 1.4 vLLM 支持哪些 Huggingface 模型？
• 二、vLLM 性能如何？

FasterTransformer

• 一、为什么需要 FasterTransformer？
• 二、FasterTransformer 介绍一下？
• 三、FasterTransformer 核心是什么？

LightLLM

• 一、引言
  • 1.1 前言
  • 1.2 为什么需要 LightLLM？
  • 1.3 目前 LLM 推理框架有哪些？
• 二、LightLLM 介绍一下？
  • 2.1 什么是 LightLLM？
  • 2.2 Token Attention 介绍？
  • 2.3 Efficient Router 介绍？
• 三、LightLLM 性能表现介绍？

StreamingLLM

• 一、引言
  • 1.1 大型语言模型（LLM）存在什么问题？
  • 1.2 StreamingLLM 背景介绍
  • 1.3 StreamingLLM 核心问题？
• 二、StreamingLLM 的思路是什么？
• StreamingLLM 篇
  • 一、为什么需要 StreamingLLM？
  • 二、StreamingLLM 思路是什么？
  • 三、StreamingLLM 优点是什么？
• SwiftInfer 篇：基于 TensorRT 的 StreamingLLM 实现

十五、大模型幻觉（LLM Hallucination）面

• 一、什么是大模型幻觉？
• 二、为什么 LLM 会产生幻觉？
• 三、为什么需要解决 LLM 的幻觉问题？
• 四、幻觉一定是有害的吗？

幻觉问题

• 一、什么是大模型幻觉问题？
• 二、为什么会出现大模型幻觉问题？
• 一、为什么会出现幻觉？
• 二、如何缓解大模型幻觉？

十六、LLMs 对比篇

• LLMs 对比篇
• 一、谈谈你对当前出现的各种大模型的见解？
• 二、目前大模型常见的 base 模型训练和 chat 模型训练方式的区别么？
• 三、llama、baichuan、ChatGLM、Bloom 和 qwen 等开源大模型技术对比篇
  • 3.1 llama 系列篇
    • 3.1.1 llama 篇
      • 3.1.1.1 llama 训练数据介绍
      • 3.1.1.2 llama 模型参数量介绍
      • 3.1.1.3 llama 模型结构介绍
      • 3.1.1.4 llama 训练目标介绍
      • 3.1.1.5 llama tokenizer 介绍
      • 3.1.1.6 llama 衍生模型介绍
      • 3.1.1.7 llama 词表扩展：Chinese LLaMA
  • 3.2 Mistral 7B 系列篇
    • 3.2.1 Mistral 7B Architectural？
  • 3.3 Qwen 系列篇
    • 3.3.1 Qwen 系列数据预处理方式？
    • 3.3.2 Qwen 系列 Tokenizer 处理方式？
    • 3.3.3 Qwen 系列 ARCHITECTURE？
  • 3.4 Baichuan 系列篇
    • 3.4.1 Baichuan2 篇
      • 3.4.1.1 Baichuan2 系列数据预处理方式？
      • 3.4.1.2 Baichuan2 系列 Tokenizer 处理方式？
      • 3.4.1.2 Baichuan2 系列 Architecture？
  • 3.5 GLM 系列篇
    • 3.5.1 ChatGLM-6B 篇
      • 3.5.1.1 ChatGLM-6B 结构特点？
      • 3.5.1.2 ChatGLM-6B 训练目标？
      • 3.5.1.3 ChatGLM-6B tokenizer？
  • 3.6 BLOOM 系列篇
    • 3.6.1 BLOOM 篇
      • 3.6.1.1 BLOOM 训练数据构建？
      • 3.6.1.2 BLOOM 模型参数量？
      • 3.6.1.3 BLOOM 模型结构？
      • 3.6.1.4 BLOOM 训练目标？
      • 3.6.1.5 BLOOM tokenizer？
• 四、分析与总结？
  • 4.1 大模型训练共同点？
  • 4.2 大模型训练不同点？
• 五、对比
  • 5.1 LLaMA、ChatGLM 和 BLOOM 对比
  • 5.2 LLaMA、ChatGLM 和 BLOOM 的 tokenizer 比较
  • 5.3LLaMA、ChatGLM 和 BLOOM 的结果比较

Attention Mask

• 大模型-attention mask 篇
• 1、prefix-tuning 的 prefix tokens 是双向注意力吗？
• 2、chatglm1 和 chatglm2 的 attention mask 是怎么样的？
• 3、llama 的 attention mask 是怎么样的？

Baichuan 系列

• 一、baichuan-7B 篇
  • 1. 你了解 baichuan-7B 解构么？介绍一下？
  • 1. baichuan-7B 如何收集原始数据并构建训练数据？
  • 1. baichuan-7B 如何提高训练稳定性和吞吐？
• 二、baichuan-13B 篇

Llama2 改进

• 一、相比较于 llama 而言，llama2 有哪些改进，对于 llama2 是应该如何 finetune？

GPT/Bert 对比

• 一、gpt 源码 past_key_value 是干啥的？
• 二、gpt onebyone 每一层怎么输入输出？
• 三、bert 和 gpt 有什么区别
• 四、文本生成的几大预训练任务？
• 五、讲讲 T5 和 Bart 的区别，讲讲 bart 的 DAE 任务？
• 六、讲讲 Bart 和 Bert 的区别？
• 七、gpt3 和 gpt2 的区别？

十七、思维链 Chain-of-Thought（COT）篇

• 一、什么是思维链提示？
• 二、思维链提示本质是什么？
• 三、思维链提示与标准的提示学习方法有什么不同？
• 四、思维链提示为什么可以提高语言模型的复杂推理能力？它的优势在哪里？

CoT 启蒙

• 思维链 Chain-of-Thought（COT）：思维链的启蒙
  • 1. 什么是思维链 Chain-of-Thought（COT）？
  • 1. 思维链 Chain-of-Thought（COT）是思路是什么？
  • 1. 思维链 Chain-of-Thought（COT）存在问题？

Tree of Thoughts

• 思维树 Tree of Thoughts（TOT）：一种用树结构解决复杂问题的方法
  • 1. 为什么需要思维树 Tree of Thoughts（TOT）？
  • 1. 什么是思维树 Tree of Thoughts（TOT）？
  • 1. 思维树 Tree of Thoughts（TOT）涉及问题有哪些？

提示策略

• 一、什么是 Zero-shot 提示方法？
• 二、什么是 Few-shot 提示方法？
• 三、阐述 One-shot 和 Few-shot 提示策略及其应用场景？
• 四、什么是逐步 Zero-shot
• 五、定义 Zero-shot-CoT 提示策略并描述其应用方法？
• 六、解释 Few-shot-CoT 提示策略及其实际使用方式？
• 七、Few-shot-LtM 策略包含哪些主要阶段及其职责？

测试集泄露

• 一、什么是 LLMs 测试集数据泄露问题？
• 二、如何解决 LLMs 测试集数据泄露问题？
• 三、是否可以避开训练集来处理 LLMs 测试集数据泄露问题？

MOE 篇

22.1

• 一、为什么需要 MOE（Mixture-of-Experts）？
• 二、MOE（Mixture-of-Experts）的思路是什么样的？
• 三、介绍一下 MOE（Mixture-of-Experts）分布式并行策略？
  • 3.1 MOE + 数据并行？
  • 3.2 MOE + 模型并行？
• 四、MoE 大模型具备哪些优势？
• 五、MoE 大模型具备哪些缺点？

22.2

• DeepSpeed-MoE
• PAI-Megatron-Patch MoE

十八、大模型蒸馏篇

• 一、知识蒸馏和无监督样本训练？
• 二、对知识蒸馏知道多少，有哪些改进用到了？
• 三、谈一下对模型量化的了解？

精度与量化

• 一、fp32 和 fp16 的区别，混合精度的原理
• 二、半精度是什么？
• 三、半精度的理论原理是什么？

Bitsandbytes

• 一、什么是 bitsandbytes？
• 二、如何才能使用 bitsandbytes？
• 三、如何使用 bitsandbytes？

环境建议

• 建议的软件环境是什么？

训练数据

• 预训练数据 Token 重复是否影响模型性能？
• SFT 需要训练 Token 数？

十九、多模态常见面试篇

• 一、最近关注的论文，多模态视觉大模型 (CLIP,DALLE)？
• 二、blip2 的架构，优势和之前多模态模型的区别？

二十、NLP 常见面试篇

• 一、怎么处理类别不平衡？
• 二、有了解其他模型去尝试解决长度限制的方案吗？

文本分类

• 一、文本分类任务有哪些应用场景？
• 二、文本分类的具体流程？
• 三、fastText 的分类过程？fastText 的优点？

文本摘要

• 一、抽取式摘要和生成式摘要存在哪些问题？
• 二、Pointer-generator network 解决了什么问题？
• 三、文本摘要有哪些应用场景？

CRF 与 HMM

• 一、CRF 常见面试题
  • 1.1 什么是 CRF？CRF 的主要思想是什么？
  • 1.2 CRF 的三个基本问题是什么？
  • 1.3 线性链条件随机场的参数化形式？
  • 1.4 CRF 的优缺点是什么？
  • 1.5 HMM 与 CRF 的区别？
  • 1.6 生成模型与判别模型的区别？
• 二、HMM 常见面试题

向量检索库

• 一、向量检索库总结
  • 1.1 Annoy
    • 1.1.1 Annoy 介绍
    • 1.1.2 Annoy 使用
  • 1.2 Faiss

二十一、其他常见面试篇

• 1. huggingface 下载不了模型问题？
• 2. ...

二十二、大模型推理加速——KV Cache 篇

• 大模型推理加速——KV Cache 篇
• 一、介绍一下 KV Cache 是啥？
• 二、为什么要进行 KV Cache？
  • 2.1 不使用 KV Cache 场景
  • 2.2 使用 KV Cache 场景
• 三、说一下 KV Cache 在大模型中的应用？

二十三、大模型——角色扮演大模型篇

• 大模型——角色扮演大模型篇
• 一、什么是角色扮演大模型？
• 二、为什么需要角色扮演大模型？
• 三、角色扮演大模型相比于通用大模型具有哪些区别？
• 四、能否通俗易懂的介绍【角色扮演大模型】？

二十四、大模型——Chat o1 篇

• 千面郎君 篇（三十一章）—— OpenAI o1 篇
• 一、Shortcut learning (捷径学习) vs Journey learning (旅程学习)
  • 1.1 Shortcut learning (捷径学习)
    • 1.1.1 什么是 Shortcut learning (捷径学习)？
    • 1.1.2 Shortcut learning (捷径学习) 包含哪些关键特征？
    • 1.1.3 Shortcut learning (捷径学习) 优点是什么？
    • 1.1.4 Shortcut learning (捷径学习) 缺点是什么？
  • 1.2 Journey learning (旅程学习)
    • 1.2.1 什么是 Journey learning (旅程学习)？
    • 1.2.2 Journey learning (旅程学习) 包含哪些关键特征？
    • 1.2.3 Journey learning (旅程学习) 优点是什么？
  • 1.3 Shortcut learning (捷径学习) vs Journey learning (旅程学习)
• 二、o1 的长思维链篇
  • 2.1 o1 的长思维链是什么样子？
  • 2.2 长思维 (Long thought) 是如何工作的？
  • 2.3 如何构建长思维？

OpenAI o1 面试篇

• Q: o1 的训练方法与之前的模型有何主要区别？
• Q: o1 的'思考'过程与简单的提示有何不同？
• Q: 为什么 o1 在推理任务上比之前的模型更强大？
• Q: o1 如何处理安全性问题？

Scaling LLM Test-Time

• Scaling LLM Test-Time：谁说类 o1 推理一定要用 RL？
• 一、Scaling LLM Test-Time 介绍篇
  • 1.1 为什么需要 Scaling LLM Test-Time？
  • 1.2 三种 Scaling LLM Test-Time 类型定义？
  • 1.3 有哪些 Scaling Test-Time 的方法？
  • 问题引申
• 二、方法一：纯 Inference Scaling 篇
  • 2.1 Inferece Test-Time 的统一视角：Proposer & Verifier
  • 2.2 Proposer & Verifier 实例：Best-of-N