大语言模型发展脉络与主流基座模型概览

基于基座模型，进行 instruction-tuning 可赋予模型强大的对齐能力。2 月 6 日，Google 宣布推出 Bard，是一款由 LaMDA 提供支持的对话式生成人工智能聊天机器人。5 月，Google I/O 大会宣布基于 PaLM 2 模型对 Bard 做了更新。

二、Meta 系模型

Meta 是所有巨头中最为拥抱开源的科技公司。Meta AI 基础人工智能研究院团队首席人工智能科学家 Yann LeCun 表示：让 AI 平台安全良善实用的唯一方法就是开源。

1. 基座模型

开源先行者 Meta 在 OpenAI 选择闭源 GPT-3 的情况下，对标 GPT-3，直接开源千亿参数的 OPT 模型。之后，启发于 DeepMind 发现的缩放法则，Meta 缩小了模型参数在更大的数据集上训练了 LLaMA(Large Language Model Meta AI)。

2. 指令微调模型

LLaMA 无疑最常被大家当做基座模型用来做指令微调适配到法律、医学等专业领域。特别是 7 月 19 日，Meta AI 发布可免费商用的开源模型 LLaMA 2，包括 7B, 13B 和 70B 三种规模。

LLaMA 的徒子徒孙们，有驼系（羊驼 Alpaca, 小羊驼 Vicuna），动物园系（考拉 Koala，山羊 Goat，熊猫 Panda），神话系（姜子牙 Ziya，白泽 Baize）。

三、OpenAI 系模型

1. 基座模型

如果追溯 GPT 系列发展的时间线，我们会发现这是一项横跨五年的技术探索，从 GPT-2 到 GPT-3，其实也只是在几乎不改变模型框架的基础上从 15 亿的参数量迭代到 1750 亿，不同于 Google 推出 T5、Switch Transformer 和 PaLM 等一系列大模型的赛马机制，OpenAI'矢志不渝'地坚持着 GPT 路线。

2. 指令微调模型

2017 年 OpenAI 提出 RLHF(人类反馈强化学习，Reinforcement Learning from Human Feedback) 技术；2022 年，OpenAI 将 RLHF 应用于 GPT-3 并开发出 InstructGPT，相对于 GPT-3 更善于遵循用户意图。

3 月 14 日，GPT-4 发布，OpenAI 给出了技术报告和 3 分钟的预告片。GPT-4 支持多模态，能够识图、生成歌词、做网站，并且刷爆了人类社会各个领域的考试，已经达到了哈佛、斯坦福等顶尖高校的水平。现已集成到微软 New Bing 和 ChatGPT Plus。

微软 Microsoft 365 全面引入生成式 AI 助手 Copilot，将 GPT-4 集成到了 Word、Excel、PowerPoint、Outlook 和 Teams 等应用中。

四、开源社区、研究院和一些科技公司构建的大模型

为了打破 OpenAI 和微软对自然语言处理 AI 模型的垄断，前 OpenAI 研究副总裁 Dario Amodei 带领一批从 OpenAI 出走的员工创立了致力于提高 AI 安全和可解释性的人工智能安全和研究公司 Anthropic。

Connor Leahy、Leo Gao 和 Sid Black 创立了专注于人工智能对齐、扩展和开源人工智能研究的组织 EleutherAI。

之后 Hugging Face 社区带头成立了 BigScience 项目，这是一个包容、开放、协作共享的大型语言模型（LLM）社区。

国内的包括北京智源人工智能研究院 BAAI、清华和百度等也都打造了自己的基座模型。

指令微调模型