LongCat-Flash-Thinking-2601 推理模型技术解析

注：

• 带†标记的数值引用自其他公开报告
• ‡表示使用我们的深度思考（Heavy Thinking）模式获得的分数
• *表示工具辅助结果不可用，因此报告了未使用工具的对应结果
• 对于 BrowseComp-zh 数据集，由于原始标注错误率较高，我们人工修正了 24 个案例的答案
• 在τ²-Airline 领域，我们采用了 Claude Opus 4.5 版本报告中提出的环境修复方案
• BrowseComp 数据集的性能指标同时报告了未使用和使用上下文管理技术两种情况
• 噪声基准测试通过向现有基准注入环境噪声构建，以更好模拟现实世界智能体环境，用于评估模型鲁棒性
• 随机复杂任务指随机构建的环境，用于评估模型泛化能力，具体说明如下

随机复杂任务评估

我们提出了一种评估智能体模型泛化能力的新方法。具体而言，我们构建了一个自动化合成流程，允许用户根据给定关键词为任意场景随机生成复杂任务。每个生成的任务都配有相应工具集和可执行环境。由于这些环境中的工具具有高度随机性，我们通过评估模型在此类环境中的表现来衡量其泛化能力。LongCat 在这些设定下始终表现出卓越性能，展现出强大的智能体场景泛化能力。

实现示例

1. 多轮对话

此示例展示模板如何处理对话历史和思考内容。

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "meituan-longcat/LongCat-Flash-Thinking-2601"
# Load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
messages = [{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"Please tell me what is $$1 + 1$$ and $$2 \times 2$$?"},{"role":"assistant","reasoning_content":"This question is straightforward: $$1 + 1 = 2$$ and $$2 \times 2 = 4"."},{"role":"user","content":"Check again?"}]
text = tokenizer.apply_chat_template(
    messages, tokenize=False, enable_thinking=True, add_generation_prompt=True, save_history_reasoning_content=False# Discard reasoning history to save tokens
)
# Template Output Structure:
# <longcat_system>You are a helpful assistant.<longcat_user>Please tell me what is $$1 + 1$$ and $$2 \times 2$$?<longcat_assistant>The answers are 2 and 4</longcat_s><longcat_user>Check again? /think_on <longcat_assistant><longcat_think>
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
# Generate response
generated_ids = model.generate(**model_inputs, max_new_tokens=32768)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
print(tokenizer.decode(output_ids, skip_special_tokens=True).strip("\n"))
# Example Output:
# The user wants a double-check. Since $$1 + 1 = 2$$ and $$2 \times 2 = 4$$ are basic arithmetic truths, the previous answer is correct.
# </longcat_think>
# I have verified the calculations: $$1 + 1 = 2$$ and $$2 \times 2 = 4$$. The initial answer remains correct.</longcat_s>

2. 工具调用

这个例子展示了如何在推理框架中集成函数调用功能。

tools = [{"type":"function","function":{"name":"func_add","description":"Calculate the sum of two numbers","parameters":{"type":"object","properties":{"x1":{"type":"number","description":"The first addend"},"x2":{"type":"number","description":"The second addend"}},"required":["x1","x2"]}}}] 
messages = [{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"Please tell me what is $$125679 + 234519$$?"},{"role":"assistant","reasoning_content":"This calculation requires precision; I will use the func_add tool.","tool_calls":[{"type":"function","function":{"name":"func_add","arguments":{"x1":125679,"x2":234519}}}]},{"role":"tool","name":"func_add","content":"{\"ans\": 360198}"}]
text = tokenizer.apply_chat_template(
    messages, tools=tools, tokenize=False, enable_thinking=True, add_generation_prompt=True, save_history_reasoning_content=False
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
# Generate response based on tool result
generated_ids = model.generate(**model_inputs, max_new_tokens=32768)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
print(tokenizer.decode(output_ids, skip_special_tokens=True).strip("\n"))

部署

我们已在 SGLang 和 vLLM 中实现了基础适配以支持 LongCat-Flash-Thinking-2601 的部署。具体部署说明请查阅相关文档。

许可协议

模型权重采用 MIT 许可证发布。

除非另有说明，对本代码库的任何贡献均遵循 MIT 许可证。该许可不授予使用美团商标或专利的任何权利。

完整许可文本请参见 LICENSE 文件。

使用注意事项

本模型并非针对所有潜在下游应用场景专门设计或进行全面评估。

开发者应充分考虑大语言模型的已知局限性（包括不同语言间的性能差异），在敏感或高风险场景部署前需审慎评估准确性、安全性与公平性。 开发者及下游用户有责任理解并遵守适用法律法规要求（包括但不限于数据保护、隐私及内容安全相关规定），确保使用合规。

本模型卡片内容不得解释为对模型所遵循的 MIT 开源许可条款的任何变更或限制。