Qwen3-0.6B 实战：构建原生支持思考链的对话机器人

你会看到类似这样的输出：

</think>正方体有 6 个面，每个面是边长为 5cm 的正方形。
单个面面积 = 5 × 5 = 25 cm²
总表面积 = 6 × 25 = 150 cm²
体积 = 边长³ = 5³ = 125 cm³<RichMediaReference>
表面积是 150 cm²，体积是 125 cm³。

注意：</think> 和 <RichMediaReference> 之间的内容就是模型的'思考链'。它独立于最终答案，且结构清晰、步骤可追溯。这不是后处理生成的，而是模型原生输出。

2. 深度控制：掌握思考模式的三种开关方式

Qwen3-0.6B 支持三种粒度的思考控制，适用于不同场景需求。

2.1 全局开关：通过 extra_body 统一启用

适用于需要全程开启思考的场景，如数学辅导、代码审查、逻辑题解析。

# 所有调用均启用思考，并返回完整推理链
chat_model = ChatOpenAI(
    model="Qwen-0.6B",
    base_url="...",
    api_key="EMPTY",
    extra_body={"enable_thinking": True, "return_reasoning": True},
)

优点：配置一次，全局生效；缺点：无法动态切换，每次请求都带推理开销。

2.2 单次开关：在消息中嵌入指令标记

Qwen3-0.6B 识别两种特殊指令前缀，可在单次请求中覆盖全局设置：

• /think：强制启用思考模式，即使全局关闭也生效
• /no_think：强制禁用思考模式，跳过推理链，直出答案

# 强制本次启用思考（忽略 extra_body 设置）
messages = [
    {"role": "user", "content": "/think 请分析这个 Python 函数的时间复杂度：def bubble_sort(arr): ..."}
]
chat_model.invoke(messages)

# 强制本次禁用思考（适合闲聊、问候等低认知负荷场景）
messages = [
    {"role": "user", "content": "/no_think 你好呀！今天天气怎么样？"}
]
chat_model.invoke(messages)

这种方式让对话更自然：用户不需要记住技术参数，只需像发微信一样加个斜杠指令。

2.3 模式混合：在同一次响应中分段控制

高级用法：同一轮对话中，对不同子问题分别启用/禁用思考。例如：

messages = [
    {
        "role": "user",
        "content": """ /think 计算斐波那契数列第 20 项是多少？ /no_think 斐波那契数列的定义是什么？ """
    }
]
response = chat_model.invoke(messages)

模型会先输出第 20 项的完整推导过程，再简洁定义数列，两者互不干扰。这种细粒度控制，是构建专业级 AI 助手的基础能力。

3. 实战进阶：构建可交互的思考型聊天机器人

光有思考还不够，真正的机器人需要记忆、状态管理和上下文感知。下面是一个基于 LangChain 的轻量级实现，支持多轮思考切换、历史回溯和结果可视化。

3.1 安装必要依赖

pip install langchain langchain-openai python-dotenv

3.2 构建带状态的思考机器人

from langchain_core.messages import HumanMessage, AIMessage
from langchain_core.chat_history import InMemoryChatMessageHistory
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_openai import ChatOpenAI

# 初始化带记忆的模型
chat_model = ChatOpenAI(
    model="Qwen-0.6B",
    base_url="https://your-api-endpoint/v1",
    api_key="EMPTY",
    extra_body={"enable_thinking": True, "return_reasoning": True},
    temperature=0.3,  # 思考模式下降低温度，提升逻辑严谨性
)

# 创建内存聊天历史
store = {}
def get_session_history(session_id: str):
    if session_id not in store:
        store[session_id] = InMemoryChatMessageHistory()
    return store[session_id]

# 封装为可记忆的 Runnable
with_message_history = RunnableWithMessageHistory(
    chat_model,
    get_session_history,
    input_messages_key="input",
    history_messages_key="history",
)

# 使用示例
config = {"configurable": {"session_id": "abc123"}}

# 第一轮：启用思考
response1 = with_message_history.invoke(
    {"input": "/think 一个圆柱体底面半径 3cm，高 8cm，求侧面积和体积"},
    config
)
print("【思考结果】", response1.content)

# 第二轮：延续上下文，但禁用思考（快速确认）
response2 = with_message_history.invoke(
    {"input": "/no_think 刚才算出的体积是多少？"},
    config
)
print("【快速确认】", response2.content)

运行后，你会看到两轮响应共享上下文，第二轮能准确引用第一轮计算出的数值，证明模型不仅会思考，还能可靠记忆关键信息。

3.3 可视化思考过程：让推理链一目了然

对于教学或调试场景，我们可以提取并高亮显示思考链：

import re

def extract_reasoning(text: str) -> str:
    match = re.search(r"</think>(.*?)<RichMediaReference>", text, re.DOTALL)
    return match.group(1).strip() if match else "无推理过程"

def format_response(full_text: str) -> str:
    reasoning = extract_reasoning(full_text)
    answer = full_text.split("<RichMediaReference>")[-1].strip()
    return f"""🧠 **推理过程**： {reasoning}
**最终答案**： {answer}"""

# 使用示例
formatted = format_response(response1.content)
print(formatted)

这种结构化输出，极大提升了 AI 响应的可解释性和可信度。

4. 场景优化：针对不同任务调整思考强度

思考不是越深越好，而是要匹配任务复杂度。Qwen3-0.6B 提供两个关键调节维度：temperature 和 max_new_tokens。

4.1 温度（temperature）：控制思考的'严谨性'

实践中，我们建议：

• 理工科任务设为 0.2，确保每一步计算可复现；
• 教育辅导设为 0.4，保留适度启发空间；
• 创意辅助设为 0.6，激发联想但不失逻辑主线。

4.2 最大生成长度（max_new_tokens）：约束思考的'深度'

思考链长度直接影响响应时间与资源消耗。默认不限制，但实际使用中建议按需设置：

# 简单计算：限制在 256 token 内，避免冗余步骤
chat_model.invoke("计算 12×15", max_new_tokens=256)

# 复杂推导：放宽至 1024 token，允许展开多层逻辑
chat_model.invoke("请用归纳法证明：1+2+3+...+n = n(n+1)/2", max_new_tokens=1024)

性能与深度的平衡点，由你掌控。

5. 常见问题与避坑指南

5.1 为什么调用时返回 ConnectionError？

最常见原因：base_url 末尾漏掉 /v1。正确格式必须是：https://xxx-8000.web.gpu.net/v1 而非 https://xxx-8000.web.gpu.net 或 https://xxx-8000.web.gpu.net/v1/（结尾斜杠会导致 404）。

5.2 思考链中出现乱码或截断？

检查 return_reasoning 是否设为 True。若设为 False，模型仍会内部思考，但不输出推理过程，此时 </think> 标记不会出现，内容直接混入答案中。

5.3 多轮对话中思考模式失效？

Qwen3-0.6B 的思考开关是请求级而非会话级。每次调用都需显式指定 /think 或通过 extra_body 启用。LangChain 的 RunnableWithMessageHistory 只管理消息历史，不继承思考模式设置。

解决方案：在每次 invoke 前，根据业务逻辑动态拼接指令前缀：

def smart_invoke(user_input: str, need_thinking: bool):
    prefix = "/think " if need_thinking else "/no_think "
    return chat_model.invoke(prefix + user_input)

5.4 如何判断当前是否在思考模式？

最可靠方法：检查响应内容是否包含 </think> 标记。只要存在该标记，即证明思考模式已成功激活。这是模型协议级的硬性约定，比任何日志或状态变量都可信。

6. 总结：思考不是功能，而是对话的底层范式

Qwen3-0.6B 的价值，不在于它多小，而在于它多'真'。它没有把'思考'包装成一个噱头功能，而是将其作为对话的默认底层范式——就像呼吸之于生命，无需刻意为之，却贯穿始终。

通过本文实践，你已掌握：

• 三分钟内启动一个原生支持思考链的 AI 服务；
• 用斜杠指令实现毫秒级思考模式切换；
• 构建带记忆、可追溯、结构化输出的对话机器人；
• 根据任务类型精细调节思考深度与严谨度；
• 规避高频部署与调用陷阱。

这不再是'调用一个 API'，而是开启一种新的交互范式：你不再向 AI 提问，而是邀请它与你共同思考。