大模型的上游与下游：AI 流水线全貌解析

三、技术详解：大模型流水线的每一环

3.1 上游：从原始数据到预训练模型

(1) 数据收集

大模型的训练语料规模惊人：

数据来源通常包括：网页爬虫（Common Crawl）、书籍语料、代码仓库（GitHub）、学术论文、百科全书、对话数据等。

数据的多样性和规模，直接决定了模型的知识广度。

(2) 数据清洗

原始数据充满噪声，必须经过严格清洗：

业界共识：**数据清洗的投入产出比是整条流水线中最高的。**Meta 在训练 LLaMA 2 时花了大量精力做数据清洗，效果远好于简单增大数据量。

(3) 分词（Tokenization）

清洗后的文本不能直接喂给模型，需要先切成 token 序列。现代大模型主要使用子词分词（Subword Tokenization）：

• 分词看似简单，但词表设计直接影响模型的效率和能力：
  • 词表太小 → 一个中文词要拆成多个 token，效率低、成本高
  • 词表太大 → 嵌入层参数量暴增，训练成本上升
  • 中英文比例不合理 → 模型对某种语言'理解力'不足。这也是为什么国产大模型（如 Qwen、DeepSeek）会专门优化中文 tokenizer——用同样的 token 数承载更多中文信息。

(4) 预训练（Pre-training）

预训练是上游的终点。目标很简单：给定前面的 token，预测下一个 token。

\mathcal{L} = -\sum_{t=1}^{T} \log P(w_t \mid w_1, w_2, \dots, w_{t-1}; \theta)

通过在海量语料上最小化这个损失函数，模型学会了语法、常识、逻辑推理——甚至一些'涌现能力'。

预训练产出的是基座模型（Base Model），它能续写文本，但还不能像 ChatGPT 一样对话。要变成产品，还需要下游的加工。

3.2 下游：从基座模型到实际应用

(1) 微调（Fine-tuning）

用特定领域或任务的数据，在基座模型上继续训练：

微调的数据量远小于预训练（通常几千到几万条），但能显著提升特定任务的表现。

(2) 对齐（Alignment）

基座模型 + 微调后的模型能回答问题了，但可能'不听话'：回答跑题、输出有害内容、不符合人类偏好。

RLHF（基于人类反馈的强化学习）就是解决这个问题的：

这一步把'能说话的模型'变成了'说人话的模型'。

(3) 部署与应用

对齐后的模型被部署为 API 或产品，执行各种下游任务：

四、实践视角：上游质量如何影响下游效果

4.1 一个真实案例：Garbage In, Garbage Out

假设你要用大模型做中文情感分析，但上游的每个环节都可能出问题：

每一个上游环节的问题，都会被放大传递到下游。这就是'garbage in, garbage out'的含义。

4.2 投入产出比对比

从实际工程经验看，不同环节的优化 ROI 差异很大：

一个反直觉的结论：最不'炫酷'的数据工作，往往是回报最大的投入。

五、总结

5.1 记住这四点

1. **上游准备能力，下游使用能力。**数据收集、清洗、分词、预训练是上游；微调、对齐、部署应用是下游。预训练是分界线。
2. **上游决定下游的天花板。**数据质量差、分词不合理、预训练不充分——下游再怎么调也补不回来。
3. **数据工作的 ROI 最高。**业界共识是'与其加参数，不如洗数据'。Meta、OpenAI 在数据清洗上的投入远超外界想象。
4. **全链路思维很重要。**做 NLP 不是只调模型，理解从数据到部署的完整流水线，才能在正确的环节投入精力。

5.2 全景速查表

5.3 一个值得思考的问题

随着大模型越来越强，'下游任务'正在被重新定义。以前情感分析需要单独训练一个分类器，现在直接给 GPT-4 一个 prompt 就能做。这意味着越来越多的下游任务正在被