一、大模型微调的技术含量辨析
关于大模型微调是否有技术含量，核心取决于工作的深度。相比传统 NLP，LLM 方向上手门槛虽降低，但实现高质量效果仍需深厚积累。以下从数据、训练代码、实验分析三个维度，对比不同层级的实践方式。
1. 数据工作
- 基础做法：直接继承实验室或同事的数据，不做质量检查即投入训练。这种方式风险极高，脏数据会导致模型能力退化。
- 进阶做法：下载开源数据构建标准集合（system + query + answer）。需关注数据分布的均衡性。
- 优化做法：利用 GPT-4 等强模型生成数据，设计多样化 Prompt 以增强任务覆盖度。刻意引入噪声提升抗噪性，并人工校验数据质量，与标注团队对齐标准。
- 高阶做法：基于用户交互日志驱动数据构造。收集真实 Prompt，通过规则或 LLM 分析反馈，挖掘高质量 Answer。借鉴 CoT、RAG、Function Call 思路，将复杂任务拆解为可训练的子任务序列。
- 细节补充：数据清洗需包含去重（MinHash/SimHash）、敏感信息过滤、格式标准化。长文本需考虑截断策略与上下文窗口利用率。
2. 训练代码
- 基础做法：修改配置文件中的 data_path，运行启动脚本。仅关注结果，不关心过程。
- 进阶做法：深入研究启动参数含义。理解 Offload 机制如何节省显存，Sequence Parallel 如何加速通信。掌握 Dataloader 对多轮对话数据的 Loss 计算逻辑（是否仅计算最后一轮），以及 Special Token 的配置影响。
- 优化做法：提出改进见解。评估 Epoch 数量是否导致过拟合，学习率 Warmup 策略是否合理。针对特定场景调整 Batch Size 与梯度累积步数。
- 高阶做法：质疑并改进框架。对比 DeepSpeed 与 Megatron 的性能瓶颈，尝试结合两者优势。针对 RoPE 耗时过长等问题进行算子级优化，查阅底层源码定位热点。
3. 实验分析
- 基础做法：跑评估集，看指标升降。负向收益时简单归因为数据问题。
- 进阶做法：结合基座模型结果，深入分析 Bad Case。区分幻觉、Pattern 过拟合、能力缺失或训练不充分。针对怀疑点设计消融实验验证，如下采样欠拟合 Task 或上采样过拟合样本。
- 技巧积累：使用预训练模型续写判断知识存量；观察 Token 概率分布定位错误节点；针对 JSON 输出失败，测试模型是缺乏结构认知还是指令遵循问题。
- 高阶做法：结合 TensorBoard 与训练日志分析 Loss 曲线。初始 Loss 过高可能因 Special Token 过多或任务类型冲突；最终 Loss 低于阈值需警惕过拟合。关注通用能力（如数学、代码）的跷跷板效应，避免灾难性遗忘。
二、职业选择：预训练与 SFT 的权衡
对于硕士校招生进入大模型领域，建议优先考虑预训练（Pretrain）岗位，理由如下：
1. 工程能力 vs 认知能力
- Pretrain 团队：必修课包括大规模数据爬取与清洗（Hadoop/Spark）、环境配置（Torch/CUDA）、分布式训练框架（Megatron）调试、Scaling Law 分析。这些技能具有极高的迁移价值。
- SFT 团队：往往侧重数据标注、Prompt 调优、合成数据。虽然涉及炼丹技巧，但工程深度通常不如 Pretrain。
2. 转岗难度
Pretrain 背景人员转 SFT 仅需熟悉数据格式即可上手；反之，SFT 人员转 Pretrain 需花费大量时间学习分布式训练原理与底层框架，门槛较高。
3. 新人成长路径
Pretrain 的杂活（海量数据清洗、特征过滤）更能锻炼数据处理与系统优化能力。新人应利用'校招'保护期挑战高难度工作，夯实基本功。成熟后，主动学习跨领域知识，保持技术视野开阔。
三、SFT 的局限性与 RLHF 的必要性
尽管 SFT 广泛应用，但其存在本质缺陷，RLHF（人类反馈强化学习）成为弥补的关键环节。
