AI 时代大模型学习指南：技术原理与 Prompt 技巧总结

Attention is All You Need：Transformer

GPT-1 提到了使用到了 Transformer 的架构。Transformer 是基于机器翻译提出来，但是意想不到具有很不错的泛化性。核心解决的是 RNN 模型无法大规模并行的效率问题。论文有清晰的流程图，加上逐步解释，很好理解。部分技术细节，像 batch_norm 和 layer_norm 的区别，甚至会展开绘图讲解。

产品介绍页不是论文：GPT-4

没有技术细节，只有案例和功能验证 showcase 秀肌肉，在各种人类社会的考证任务中遥遥领先，加入了视觉输入。GPT-4 在稳定性和可预测性上都有了出乎意料的提升。微调貌似不能优化大语言模型的结果正确率，但是 RLHF 可以让回答更符合公序良俗，更有'人味儿'。为了更有人味儿，GPT-4 引入了 System Message。

Cookbook：Prompt 工程

理论学习的同时，实践也要跟上。Prompt 工程领域在 GPT 兴起之后很快就变成热门，专业岗位薪酬水涨船高，垂直教程层出不同。关于使用技巧的学习还在持续进行中。

建议课程资料学习和上手实操同时进行，不管是直接用 ChatGPT 还是撸代码。实践是验证自己到底搞懂没的唯一标准。

DAIR.AI: Prompt Engineering

DAIR.AI 视频质量尚可，演讲者带有一定的口音，字幕也校对得不是很好。不过强烈推荐，视频较短，浓缩了 Prompt 基础概念介绍、当下热门的技巧及案例讲解（Few-Shot、CoT、Self-Consistency、Knowledge Generation、PAL、ReAct）、常用工具、机会和发展（安全、越狱、RLHF，其他）。具有一定的知识基础之后很容易理解和接受。

吴恩达：ChatGPT Prompt Engineering for Developers

吴恩达教学视频拆分为 9 个章节，层层递进拓展关于 ChatGPT 的核心概念理解，最后以完成一个聊天机器人作为收官，完整性较好。官方的课程网页可以同步进行 Python 代码实操，能够强化对具体实现的理解。官方视频的缺点是没有中文字幕，英文字幕在双屏下可读性不是很好。

Learning Prompt 课程 by Jimmy Wong

Learning Prompt 有系统介绍和案例实操，中文友好。如果对之前的理念不太理解，可以通过更多的实践来强化理解。网站会有一些 Prompt 的实例可以进行操作，同时提供一些外部的学习材料可以参考。可以视作一个阶段内的各类相关同行的智慧结晶。

补充：常见 Prompt 技巧详解

为了进一步巩固学习效果，以下是对文中提及的关键 Prompt 技巧的补充说明：

• Zero-Shot (零样本)：直接给模型指令，不提供示例。例如：'请总结这篇文章。'
• Few-Shot (少样本)：提供少量示例让模型模仿。例如：'猫 -> 动物，狗 -> 动物，苹果 -> ?'
• Chain of Thought (CoT)：引导模型一步步思考。例如：'请先分析原因，再给出结论。'
• Self-Consistency (自我一致性)：让模型生成多个答案，然后投票选出最一致的。
• ReAct (Reasoning + Acting)：结合推理和行动，让模型在环境中执行任务。

这些技巧在实际工作中能显著提升大模型的输出质量和可控性。

未来展望

大模型的发展太过迅速，如果只关注眼前的实现，很可能过段时间就发现努力的内容已是昨日黄花，抬头看天的任务显得尤为重要。我也在寻找以一种相对宏观的视角来不断刷新认知，目前能做的就是紧跟最前沿领军人物的认知分享。

The busy person's intro to LLMs

AK 在 11 月又在 Scale AI 进行了一次内部分享，然后个人重新录制了一版上传到网上。演讲的主题还是面向普通人介绍 LLM，过去半年，AK 在 LLM 的描述（也可以视作他的理解）又有了更宏观更前沿的认知。后续 ChatGPT 的一系列新能力也反向印证他们正在朝着该方向前进。

其中最震撼的是 AK 把 LLM 类比或者是定义为新的操作系统，既因为和自己的工作领域相关，也因为该想法把 LLM 的未来真正具像化用我可以想象的方式表现出来。这意味着未来的软件开发将更多地依赖于自然语言交互，而非传统的代码编写。

我的大模型观：陆奇

在看完 AK 的演讲之后，反问了自己一个问题：我对大模型的理解是否太肤浅？陆奇 4 月份在奇绩论坛发表了一份极具影响力，同时立场相当极端的演讲。当时还觉得是深耕多年守得云开见月明的范进式论调。

现在对大模型有一定的了解，开始对 Qi 的认知有表面的理解，他对世界的抽象化认知在一个更高的维度。由于领先企业成功地将边际成本变成了固定成本，OpenAI 完成了过去 Google、微软、微信、支付宝在信息时代完成的基础建设，可能世界真的拐点已经开始了。

更重要的是根据 Qi 的分析，行业或者个人的发展机会是在哪里？Qi 给出了一个可能的结构化方法论供参考。这提示我们，在技术变革期，不仅要关注技术本身，更要关注技术带来的生产力重构和商业模式的变迁。

结语

大模型时代，企业对人才的需求变了，AIGC 相关岗位人才难求。掌握大模型技术不仅能带来薪资上浮，还能拥有更多可能性。成为一名全栈大模型工程师，包括 Prompt、LangChain、LoRA 等技术开发、运营、产品等方向全栈工程；能够拥有模型二次训练和微调能力，带领大家完成智能对话、文生图等热门应用。

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去。希望本文整理的学习路线和资源能帮助大家在 AI 大模型领域少走弯路，快速入门并深入探索。