思维链（Chain-of-thought，CoT）是一种将复杂推理任务分解为中间步骤的提示技术。本文深入解析了思维链提示的本质、优势及适用场景，对比了其与标准提示学习的差异。内容涵盖如何通过增加模型规模提升推理能力、当前存在的不足点如事实准确性问题，以及未来的研究方向包括小模型适配和验证机制结合。同时提供了具体的应用场景示例、Python 代码实现以及自洽性和思维树等进阶技术，旨在帮助开发者更好地利用思维链增强大语言模型的复杂推理表现。
思维链（Chain-of-thought，CoT）指的是一系列有逻辑关系的思考步骤，形成一个完整的思考过程。人在日常生活中，随时随地都会用思维链来解决问题，比如工作、读书经常用到的思维导图，就是为了尽可能全面拆解步骤，不忽略重要细节，从而充分地考虑问题。
这种步骤分解的方式用在提示学习中，就被称为思维链提示。它将大语言模型的推理过程，分解成一个个具体的中间步骤，直观地展现出来。这样开发人员可以在 LLM 推理出现错误时，能够定位到具体哪一步出现了偏差，并及时修复或调整提示词策略。
思维链的核心在于"Show your work"（展示你的工作）。它要求模型在给出最终答案之前，先生成中间的推理文本。这不仅仅是输出结果，而是输出推导路径。
思维链提示的本质就是把一个多步骤推理问题，分解成很多个中间步骤，分配给更多的计算量，生成更多的 token，再把这些答案拼接在一起进行求解。
从计算角度看，CoT 增加了模型的推理深度。标准提示往往是一次性映射输入到输出，而 CoT 引入了隐式的中间状态空间。通过显式化这些中间状态，模型可以利用其强大的序列建模能力，逐步逼近正确答案，类似于人类解题时的草稿纸过程。
'思路链提示'方法是在少样本学习中，在输入 - 输出对的输出部分提供一系列中间推理步骤，来增强语言模型的复杂推理能力。
具体来说，"思路链提示"是在标准的少样本学习中，在每一个输入 - 输出对后面添加该输出的生成过程。这里的生成过程就是一系列从输入到输出的中间语言推理步骤。
在一个算术词题的解答中，会给出每一步的计算过程，而不仅仅只给出最终答案。在一个需要常识推理的问题中，会给出一系列的语言推论步骤。与只给出最终输出的标准提示学习不同，"思路链提示"提供了从输入到输出的完整推理路径。这模拟了人类逐步思考解决复杂问题的过程。
思维链提示主要适用于需要复杂推理的领域，例如数学、常识和符号推理等。思维链提示可以帮助大语言模型生成一系列推理步骤，从而解决多步骤的问题，提高准确率和可解释性。
思维链提示也可以与其他技术结合，例如行动指令（Action）、检索增强生成（RAG）、组装（Assembly）等，让大语言模型具备更强的执行能力和知识生成能力。
尽管 CoT 效果显著，但目前仍面临以下挑战：
随着参数量增加，模型展现出以下关键能力的提升，直接支持 CoT：
除了基础推理，CoT 思想可迁移至多种任务：
针对当前局限性，未来的改进方向包括：
在实际开发中，我们可以通过 Python 脚本动态构建思维链提示。以下是一个简单的示例，展示如何构造包含 CoT 的 Few-Shot 提示。
import os
from typing import List, Dict
# 假设我们有一个 API 调用函数
# def call_llm_api(prompt: str) -> str:
# pass
def build_cot_prompt(question: str, examples: List[Dict]) -> str:
"""
构建思维链提示
:param question: 用户问题
:param examples: 示例列表，每个包含 input 和 output (含推理步骤)
:return: 完整的提示字符串
"""
prompt_parts = []
# 添加示例
for ex in examples:
prompt_parts.append(f"Question: {ex['input']}")
prompt_parts.append(f"Answer: {ex['output']}")
prompt_parts.append("\n")
# 添加当前问题
prompt_parts.append(f"Question: {question}")
prompt_parts.append("Answer:")
return "\n".join(prompt_parts)
# 示例数据
examples = [
{
"input": "罗杰有 5 个网球。他又买了两筒网球。每筒有 3 个网球。他现在有多少个网球？",
"output": "罗杰最初有 5 个网球。他买了 2 筒，每筒 3 个，所以买了 2 * 3 = 6 个。总共是 5 + 6 = 11 个。"
}
]
user_question = "小明有 10 本书，借给朋友 3 本，又买了 5 本，现在有多少本？"
prompt = build_cot_prompt(user_question, examples)
print(prompt)
为了进一步提升 CoT 的效果，研究者提出了多种变体：
由于 CoT 生成具有随机性，同一条目可能生成多条不同的推理路径。Self-Consistency 方法通过采样多次生成推理链，然后投票选择出现频率最高的答案。这能显著提高准确率，尤其是在数学推理任务上。
ToT 将 CoT 扩展为树状结构。模型不仅生成线性步骤，还会探索多个分支，评估每个分支的价值，并进行回溯。这种方法允许模型在遇到死胡同时回退，更适合复杂的规划任务。
思维链提示（CoT）是当前大语言模型提升复杂推理能力的关键技术之一。通过将推理过程显式化，CoT 不仅提高了准确率，还增强了模型的可解释性。尽管面临成本、幻觉和小模型适配等挑战，但随着 Self-Consistency、ToT 等进阶技术的发展，CoT 的应用前景依然广阔。开发者应掌握其核心原理，结合具体业务场景灵活应用，以充分发挥大模型的智能潜力。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online