跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI算法

LongCat-Flash-Thinking-2601 推理模型技术解析

LongCat-Flash-Thinking-2601 是一款基于 MoE 架构的 5600 亿参数大型推理模型。通过环境扩展、多环境强化学习及抗噪训练强化智能体思维,并引入深度思考模式提升复杂任务表现。在数学推理、工具使用及搜索基准测试中达到顶尖水平,展现出优秀的泛化与鲁棒性。支持 SGLang 和 vLLM 部署,采用 MIT 许可证开源。

AiEngineer发布于 2026/3/21更新于 2026/10/24108 浏览
LongCat-Flash-Thinking-2601 推理模型技术解析

模型介绍

我们推出全新升级的 LongCat-Flash-Thinking 模型——这是一个基于创新性混合专家架构(MoE)、总参数量达 5600 亿的高效大型推理模型(LRM)。本次升级不仅延续了前代版本中领域并行训练方案的优势,在传统推理基准测试中保持顶尖水平,更通过精心设计的训练流程系统性强化了智能体思维能力:首先进行环境规模扩展与任务合成,随后实施可靠高效的大规模多环境强化学习。为更好适应现实世界智能体任务固有的噪声与不确定性,我们针对多种类型和级别的环境噪声开展了系统性分析与课程训练,确保模型在不完美条件下仍能保持稳健表现。最终,LongCat-Flash-Thinking-2601 不仅在智能体工具使用、智能体搜索和工具集成推理等基准测试中达到顶尖水平,更在任意分布外现实场景中展现出显著提升的泛化能力。我们特别设计了专项评估方案来检验模型的鲁棒性与泛化能力。此外,新引入的深度思考模式通过强化并行思维,可显著提升模型应对极端复杂任务时的表现。

核心特性
🌟 环境扩展与多环境强化学习

我们构建了多样化的高质量环境集合,作为强化学习的训练场,使模型能够习得高阶、可迁移的智能体技能。每个环境包含 60 余种工具,通过密集依赖图组织,为多样化任务构建和大规模探索提供充分复杂度。随着训练环境数量增加,我们在域外评估中观察到持续提升的泛化表现。

  • 高质量任务构建 为保障训练任务集质量,我们显式控制任务复杂度与多样性。每个任务基于从高质量环境中采样的连通子图构建,通过要求尽可能协调使用子图内工具来控制复杂度。逐步降低已选工具的采样概率以提升任务多样性。我们构建对应数据库确保任务可执行性,每个任务均验证至少存在一种可行解。但当环境包含大量工具时,跨数据库一致性维护面临挑战,可能导致任务无法验证。我们设计了专项策略应对该问题。
  • 多环境强化学习 在保持高效异步训练与流式推演特性的同时,我们进一步扩展强化学习基础设施(DORA),以支持环境扩展协议要求的大规模多环境智能体训练。多环境任务以均衡方式组织在训练批次中,并根据任务复杂度及当前训练状态动态分配不同的推演预算。
🌟 抗噪环境下的鲁棒训练

由于现实世界的智能体环境本质上是嘈杂且不完美的,仅在理想化环境中训练模型是不够的,往往会导致鲁棒性受限。为解决这一问题,我们明确将环境缺陷纳入模型训练过程以增强鲁棒性。具体而言,我们系统分析了智能体场景中现实噪声的主要来源,进而设计自动化流程将此类噪声注入训练环境。在强化学习过程中,我们采用课程学习策略,随着训练推进逐步增加噪声类型和强度。得益于鲁棒训练,LongCat-Flash-Thinking-2601 对环境不确定性展现出强大适应力,在不完美条件下持续获得性能提升。

🌟 深度思考模式

为突破当前推理能力边界,我们建立了深度思考模式。具体实现上,我们将复杂问题求解分解为两个互补阶段:并行思考与汇总提炼,从而协同扩展推理深度与广度。在推理广度扩展方面,该模式下以并行方式独立生成多条推理轨迹,实现推理路径的广泛探索。此处采用适度提高的推理温度参数以确保多样性。对于推理深度扩展,汇总阶段精炼的轨迹可递归反馈至汇总模型,形成支持渐进深化推理的迭代循环。我们专门配置强化学习阶段来训练汇总能力,从而进一步释放该模式潜力。

评估结果

BenchmarkDeepSeek-V3.2-ThinkingKimi-K2-ThinkingQwen3-235B-A22B-Thinking-2507GLM-4.7-ThinkingClaude-Opus-4.5-ThinkingGemini-3-ProGPT-5.2-Thinking-xhighLongCat-Flash-Thinking-2601
ArchitectureMoEMoEMoEMoE---MoE
# Total Params671B1T235B355B---560B
# Activated Params37B32B22B32B---27B
Mathematical Reasoning w/ Tools
AIME-25 (Avg@16)93.5*99.1†92.6*95.3*100.099.8100.099.6 / 100.0‡
HMMT-25 (Avg@16)93.5*95.1†83.9*98.1*98.699.899.693.4 / 97.5‡
IMO-AnswerBench (Avg@4)77.7*78.7*73.0*84.0*82.886.7-78.6 / 86.8‡
AMO-Bench EN (Avg@16)51.9*56.0*47.8*62.4*66.072.5-61.6 / 66.0‡
AMO-Bench CH (Avg@16)52.0*51.8*28.8*35.1*67.774.9-56.8 / 67.5‡
Agentic Search
BrowseComp (Pass@1)51.4 / 67.6†- / 60.2†-52.0 / 67.5†--65.8 / -56.6 / 73.1
BrowseComp-zh (Pass@1)65.0 / -- / 62.3†-66.6 / ----69.0 / 77.7
RW Search (Pass@1)74.063.020.569.075.574.582.079.5
Agentic Tool Using
τ²-Retail (Avg@4)81.8†-71.9†-88.9†-82.0†88.6
τ²-Airline (Avg@4)63.8†-58.6†----76.5
τ²-Telecom (Avg@4)96.2†-47.3-98.2†-98.7†99.3
τ²-Avg (Avg@4)80.674.3†59.387.4†82.490.7†80.688.2
τ²-Noise (Avg@4)64.163.144.366.059.457.365.067.1
VitaBench (Avg@4)24.012.814.518.328.531.524.329.3
VitaBench-Noise (Avg@4)14.09.26.510.820.320.819.020.5
Random Complex Tasks (Avg@4)32.529.732.725.332.632.517.235.8
General QA
HLE text-only (w/o tools)24.124.417.826.932.040.334.5†25.2
GPQA-Diamond (Avg@16)86.985.480.584.986.991.992.980.5 / 85.2‡
Coding
LCB (24.08–25.05) (Avg@4)82.475.176.284.882.888.1-82.8
OJBench (Pass@1)41.842.335.644.646.761.2-42.2
OIBench EN (Pass@1)43.339.036.830.850.058.2-47.7
SWE-bench Verified (Avg@5)73.171.3-73.880.976.280.070.0

注:

  • 带†标记的数值引用自其他公开报告
  • ‡表示使用我们的深度思考(Heavy Thinking)模式获得的分数
  • *表示工具辅助结果不可用,因此报告了未使用工具的对应结果
  • 对于 BrowseComp-zh 数据集,由于原始标注错误率较高,我们人工修正了 24 个案例的答案
  • 在τ²-Airline 领域,我们采用了 Claude Opus 4.5 版本报告中提出的环境修复方案
  • BrowseComp 数据集的性能指标同时报告了未使用和使用上下文管理技术两种情况
  • 噪声基准测试通过向现有基准注入环境噪声构建,以更好模拟现实世界智能体环境,用于评估模型鲁棒性
  • 随机复杂任务指随机构建的环境,用于评估模型泛化能力,具体说明如下

随机复杂任务评估

我们提出了一种评估智能体模型泛化能力的新方法。具体而言,我们构建了一个自动化合成流程,允许用户根据给定关键词为任意场景随机生成复杂任务。每个生成的任务都配有相应工具集和可执行环境。由于这些环境中的工具具有高度随机性,我们通过评估模型在此类环境中的表现来衡量其泛化能力。LongCat 在这些设定下始终表现出卓越性能,展现出强大的智能体场景泛化能力。

实现示例
1. 多轮对话

此示例展示模板如何处理对话历史和思考内容。

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "meituan-longcat/LongCat-Flash-Thinking-2601"
# Load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
messages = [{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"Please tell me what is $$1 + 1$$ and $$2 \times 2$$?"},{"role":"assistant","reasoning_content":"This question is straightforward: $$1 + 1 = 2$$ and $$2 \times 2 = 4"."},{"role":"user","content":"Check again?"}]
text = tokenizer.apply_chat_template(
    messages, tokenize=False, enable_thinking=True, add_generation_prompt=True, save_history_reasoning_content=False# Discard reasoning history to save tokens
)
# Template Output Structure:
# <longcat_system>You are a helpful assistant.<longcat_user>Please tell me what is $$1 + 1$$ and $$2 \times 2$$?<longcat_assistant>The answers are 2 and 4</longcat_s><longcat_user>Check again? /think_on <longcat_assistant><longcat_think>
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
# Generate response
generated_ids = model.generate(**model_inputs, max_new_tokens=32768)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
print(tokenizer.decode(output_ids, skip_special_tokens=True).strip("\n"))
# Example Output:
# The user wants a double-check. Since $$1 + 1 = 2$$ and $$2 \times 2 = 4$$ are basic arithmetic truths, the previous answer is correct.
# </longcat_think>
# I have verified the calculations: $$1 + 1 = 2$$ and $$2 \times 2 = 4$$. The initial answer remains correct.</longcat_s>
2. 工具调用

这个例子展示了如何在推理框架中集成函数调用功能。

tools = [{"type":"function","function":{"name":"func_add","description":"Calculate the sum of two numbers","parameters":{"type":"object","properties":{"x1":{"type":"number","description":"The first addend"},"x2":{"type":"number","description":"The second addend"}},"required":["x1","x2"]}}}] 
messages = [{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"Please tell me what is $$125679 + 234519$$?"},{"role":"assistant","reasoning_content":"This calculation requires precision; I will use the func_add tool.","tool_calls":[{"type":"function","function":{"name":"func_add","arguments":{"x1":125679,"x2":234519}}}]},{"role":"tool","name":"func_add","content":"{\"ans\": 360198}"}]
text = tokenizer.apply_chat_template(
    messages, tools=tools, tokenize=False, enable_thinking=True, add_generation_prompt=True, save_history_reasoning_content=False
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
# Generate response based on tool result
generated_ids = model.generate(**model_inputs, max_new_tokens=32768)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
print(tokenizer.decode(output_ids, skip_special_tokens=True).strip("\n"))

部署

我们已在 SGLang 和 vLLM 中实现了基础适配以支持 LongCat-Flash-Thinking-2601 的部署。具体部署说明请查阅相关文档。

许可协议

模型权重采用 MIT 许可证发布。

除非另有说明,对本代码库的任何贡献均遵循 MIT 许可证。该许可不授予使用美团商标或专利的任何权利。

完整许可文本请参见 LICENSE 文件。

使用注意事项

本模型并非针对所有潜在下游应用场景专门设计或进行全面评估。

开发者应充分考虑大语言模型的已知局限性(包括不同语言间的性能差异),在敏感或高风险场景部署前需审慎评估准确性、安全性与公平性。 开发者及下游用户有责任理解并遵守适用法律法规要求(包括但不限于数据保护、隐私及内容安全相关规定),确保使用合规。

本模型卡片内容不得解释为对模型所遵循的 MIT 开源许可条款的任何变更或限制。

目录

  1. 模型介绍
  2. 核心特性
  3. 🌟 环境扩展与多环境强化学习
  4. 🌟 抗噪环境下的鲁棒训练
  5. 🌟 深度思考模式
  6. 评估结果
  7. 随机复杂任务评估
  8. 实现示例
  9. 1. 多轮对话
  10. Load the tokenizer and the model
  11. Template Output Structure:
  12. <longcatsystem>You are a helpful assistant.<longcatuser>Please tell me what is $$1 + 1$$ and $$2 \times 2$$?<longcatassistant>The answers are 2 and 4</longcats><longcatuser>Check again? /thinkon <longcatassistant><longcatthink>
  13. Generate response
  14. Example Output:
  15. The user wants a double-check. Since $$1 + 1 = 2$$ and $$2 \times 2 = 4$$ are basic arithmetic truths, the previous answer is correct.
  16. </longcat_think>
  17. I have verified the calculations: $$1 + 1 = 2$$ and $$2 \times 2 = 4$$. The initial answer remains correct.</longcat_s>
  18. 2. 工具调用
  19. Generate response based on tool result
  20. 部署
  21. 许可协议
  22. 使用注意事项

更多推荐文章

查看全部
  • Python 3.11.14 安装指南及安全修复说明
  • OpenClaw:开源 AI 智能体框架的技术架构与实战指南
  • Java 零基础入门教程:环境搭建与核心语法
  • OpenClaw+Qwen3.5:本地部署开源 AI 助手实战指南
  • 快速排序深度解析与实战优化
  • 利用腾讯云 HAI 与 DeepSeek 快速搭建响应式个人网页
  • 本地部署 AI 服务零公网 IP 安全访问方案
  • 程序员进阶技术专家的核心能力与源码深度解析
  • Python 项目标准目录结构详解
  • GitHub 学生开发者包认证指南
  • VRCT:VRChat 跨语言实时翻译工具
  • 微软开源 TinyTroupe:基于 LLM 的多智能体角色模拟框架
  • AI 辅助编程:利用 GitHub Copilot 等工具提升开发效率
  • 前端实战:拦截右键菜单并实现自定义弹窗逻辑
  • 常见 Web 漏洞渗透及防护方法
  • 前端代码质量保证:提升可靠性与可维护性
  • openTCS WEB 接口实战:从基础调用到自定义指令开发
  • 基于飞牛 NAS 与 Docker 部署私人 IPTV 直播源服务
  • 详解学习 Python 的十一个关键步骤与进阶路径
  • Cursor Chat Browser:浏览和管理 Cursor AI 聊天历史的 Web 应用

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online