DeepSeek 各版本说明与优缺点分析

在代码方面，DeepSeek-V2.5 保留了 DeepSeek-Coder-V2-0724 强大的代码能力。在 HumanEval Python 和 LiveCodeBench 测试中显示了较为显著的改进。FIM 补全任务评分提升了 5.1%。

特点

在前一个版本基础上进行关键性改进，尤其是在数学推理和写作领域。加入了联网搜索功能，能够实时分析海量网页信息。

优势

• 数学和写作能力提升：在复杂的数学问题和创作写作方面表现优异。
• 联网搜索功能：通过联网抓取最新网页信息，提升模型的实时性和信息广度。

缺点

• API 限制：虽然具备联网搜索能力，但 API 接口不支持该功能。
• 多模态能力依然有限：在多模态任务上仍然存在局限性。

DeepSeek-V2.5 已开源至 HuggingFace： https://huggingface.co/deepseek-ai/DeepSeek-V2.5

4. DeepSeek-R1-Lite 系列：推理模型预览版上线

发布时间

2024 年 11 月 20 日

作为 R1 模型的前置版本，DeepSeek-R1-Lite 对标 OpenAI o1，在美国数学竞赛（AMC）和全球顶级编程竞赛（codeforces）等权威评测中取得了卓越的成绩。

DeepSeek - R1 - Lite - Preview 在数学竞赛和世界级编程竞赛测试任务中表现突出。在理工科博士生测试、自然语言解谜任务中，OpenAI o1 - preview 得分更优。

结果显示：

• DeepSeek - R1 - Lite - Preview 的准确率随着平均 token 量的增加而显著提升，在采用多数投票法时，提升效果更为明显。
• 在一次通过（Pass@1）情况下，DeepSeek - R1 - Lite - Preview 在平均 token 量达到一定程度时，准确率高于 OpenAI o1 - preview 的 44.2%。

特点

使用强化学习训练，推理过程包含大量反思和验证，思维链长度可达数万字。在数学、代码以及各种复杂逻辑推理任务上，展现了 o1 未公开的完整思考过程。

优点

• 推理能力强：在高难度的数学和代码任务中表现优异，超越了现有的顶级模型。
• 思考过程详细：提供答案的同时附上详细的思考过程和反向思考的验证过程。
• 性价比高：模型训练成本远低于行业主流模型。

缺点

• 代码生成表现不稳定：在生成一些相对简单的代码时表现不如预期。
• 知识引用能力不足：在处理需要现代知识引用的复杂测试时，未能达到令人满意的效果。
• 语言交互问题：使用过程中可能出现中英文思考、输出混乱的问题。

5. DeepSeek-V3 系列：大规模模型与推理速度提升

发布时间

2024 年 12 月 26 日

作为深度求索公司自主研发的首款混合专家（MoE）模型，其拥有 6710 亿参数，激活 370 亿，在 14.8 万亿 token 上完成了预训练。多项评测成绩超越了 Qwen2.5-72B 和 Llama-3.1-405B 等其他开源模型，并在性能上和世界顶尖的闭源模型 GPT-4o 以及 Claude-3.5-Sonnet 不分伯仲。

DeepSeek - V3 在 MMLU - Pro、MATH 500、Codeforces 任务测试中表现突出。在 GPQA Diamond、SWE - bench Verified 任务中也有不错表现。

模型架构与参数

• DeepSeek - V3：采用 MoE 架构，激活参数 37B，总参数 671B。
• Qwen2.5 - 72B - Inst：Dense 架构，激活参数 72B。
• Llama3.1 - 405B - Inst：Dense 架构，激活参数 405B。

英文测试集表现

• MMLU 相关：DeepSeek - V3 在 MMLU - EM、MMLU - Redux EM、MMLUPro - EM 测试中成绩分别为 88.5、89.1、75.9。
• DROP：DeepSeek - V3 得分为 91.6。
• GPQA - Diamond：DeepSeek - V3 得分 59.1。

代码测试集表现

• HumanEval - Mul：DeepSeek - V3 得分为 82.6。
• LiveCodeBench：DeepSeek - V3 分别为 40.5、37.6。

数学测试集表现

• AIME 2024：DeepSeek - V3 得分为 39.2。
• MATH - 500：DeepSeek - V3 得分为 90.2。

中文测试集表现

• CLUEWSC：DeepSeek - V3 得分为 90.9。
• C - Eval：DeepSeek - V3 得分为 86.5。

特点

DeepSeek-V3 是该系列中的一个里程碑版本，专注于知识类任务和数学推理。引入了原生 FP8 权重，支持本地部署，推理速度大幅提升，生成吐字速度从 20TPS 提升至 60TPS。

优势

• 强大的推理能力：凭借 6710 亿参数，在知识推理和数学任务方面展现出卓越的表现。
• 高生成速度：每秒生成 60 个字符的速度使得 V3 能够满足对响应速度要求高的应用场景。
• 本地部署支持：通过 FP8 权重的开源，用户可以在本地部署。

缺点

• 高训练资源需求：需要大量的 GPU 资源进行训练，部署和训练的成本较高。
• 多模态能力不强：在多模态任务（如图像理解）方面未做专门优化。

论文链接：https://github.com/deepseek-ai/DeepSeek-V3/blob/main/DeepSeek_V3.pdf

6. DeepSeek-R1 系列：强化学习与科研应用

发布时间

2025 年 1 月 20 日

DeepSeek-R1 秉持着开源的原则，遵循 MIT License，允许用户通过蒸馏技术借助 R1 训练其他模型。

开源协议层面

MIT License 是一种宽松的开源软件许可协议。用户拥有极大的自由：

• 使用自由：可在任何个人项目、商业项目等各种场景中自由使用。
• 修改自由：能够对代码、模型架构等进行修改和定制。
• 分发自由：可以将基于 DeepSeek - R1 修改或未修改的版本进行分发。

模型训练与技术应用层面

• 模型轻量化：蒸馏技术可以将大型模型的知识迁移到小型模型上。
• 个性化定制：用户可以根据特定任务需求，以 DeepSeek - R1 为基础训练更适配的模型。
• 促进技术创新：为研究人员和开发者提供了强大的工具和起点。

DeepSeek-R1 上线 API，对用户开放思维链输出，通过设置 model='deepseek-reasoner' 即可调用。

在后训练阶段大规模使用了强化学习技术，极大提升了模型推理能力。在数学、代码、自然语言推理等任务上，性能比肩 OpenAI o1 正式版。

在 Codeforces、MATH - 500、SWE - bench Verified 测试中，DeepSeek - R1 或 DeepSeek - R1 - 32B 表现突出。在 AIME 2024、GPQA Diamond、MMLU 测试中，OpenAI - o1 - 1217 表现较好。在蒸馏小模型的对比上，R1 模型超越 OpenAI o1-mini。

DeepSeek-R1-Zero 和 DeepSeek-R1 两个 660B 模型的同时，通过 DeepSeek-R1 的输出，蒸馏了 6 个小模型开源给社区，其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1-mini 的效果。

总结

o1 - mini 在 CodeForces 竞赛评分上优势明显；DeepSeek - R1 蒸馏的大参数模型在数学和编程相关测试集表现较好。

特点

DeepSeek-R1 是系列中的最新版本，通过强化学习（RL）技术，优化了模型的推理能力。R1 版本推理能力接近 OpenAI 的 O1，并且遵循 MIT 许可证，支持模型蒸馏。

优势

• 强化学习优化推理能力：利用强化学习技术，R1 能够在推理任务中展现出比其他版本更强的表现。
• 开源支持与科研应用：R1 完全开源，支持科研人员、技术开发者进行二次开发。

缺点

• 多模态能力不足：在多模态任务的支持方面仍未得到充分优化。
• 应用场景受限：主要面向科研、技术开发和教育领域，商业化应用和实际操作中的适用场景相对较窄。

论文链接：https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf

结语

DeepSeek 系列的不断迭代和升级，体现了其在自然语言处理、推理能力和应用生态等方面的持续进步。每个版本都有其独特的优势和适用场景，用户可以根据自身需求选择最适合的版本。