PythonAI算法
Qwen2.5-Math 开源模型实战：从本地部署到奥数题推理验证
Qwen2.5-Math 是专为数学任务设计的开源大语言模型，支持思维链（CoT）和工具集成推理（TIR）。本文演示了该模型的本地部署流程，通过一元一次方程验证其基础推理能力，并利用 72B 参数版本 API 解决小学及初中奥数题目。实测表明模型在逻辑推导和计算准确率上表现优异，能有效辅助数学教学与解题。
Qwen2.5-Math 是专为数学任务设计的开源大语言模型，支持思维链（CoT）和工具集成推理（TIR）。本文演示了该模型的本地部署流程，通过一元一次方程验证其基础推理能力，并利用 72B 参数版本 API 解决小学及初中奥数题目。实测表明模型在逻辑推导和计算准确率上表现优异，能有效辅助数学教学与解题。
在 Qwen2.5 全家桶中，除了常规的大语言模型和专门针对编程的 Coder 模型外，还有一个专门针对数学的 Qwen2.5-Math 模型。它号称是领先的数学开源大语言模型，本文将通过奥数题目来验证其强大之处。
我们将通过以下三个主要部分来完成 Qwen2.5-Math 模型的实战之旅：
Qwen2.5-Math 明确说明：该模型主要被设计用于通过CoT或TIR的方式解中英数学题，不推荐在其他任务上使用该系列模型。那么，什么是 CoT 和 TIR 推理方式呢？
即思维链（Chain of Thought），主要目的是让大模型一步一步地展现出其推理过程，而不是直接给答案，就像人类逻辑思维过程一样，通过多步分解的方式，能更好地理解和解决复杂问题。如下数学题目的解答过程：
即工具集成推理（Tool integrated Reasoning），就是在推理过程中使用外部工具（如使用 Python 执行代码获取结果）。TIR 是 Qwen2.5-Math 的新特性，它能显著提升中英文的数学解题能力，包括精确计算、符号操作和算法操作等方面。
此外，有关 Qwen2.5-Math 的预训练架构设计有个特别有趣的地方：Qwen2.5-Math的部分预训练数据，竟然是由Qwen2-Math-Instruct 模型提供的，这种自我迭代机制使得模型表现更加出色。
更多 Qwen2.5-Math 的详细介绍，可查看官网。
我们先本地部署 Qwen2.5-Math 模型，然后进行简单的数学题推理。由于硬件配置限制，本次演示我们使用1.5B参数版本（大家可根据自己硬件配置，选择不同的参数量版本）。我们通过以下步骤完成整个流程：
存放权重文件目录：Qwen2.5-Math-1.5B-Instruct
# Git 大文件系统
git lfs install
# 下载模型权重文件
git clone https://www.modelscope.cn/qwen/Qwen2.5-math-1.5B-Instruct.git Qwen2.5-Math-1.5B-Instruct
若下载过程中异常中断，可以通过 git lfs install 命令继续下载：
# 切换到 Git 目录
cd Qwen2.5-Math-1.5B-Instruct
# 继续下载
git lfs pull
工欲善其事，必先利其器。我们通过 Miniconda 管理 Python 虚拟环境。
# Python 虚拟环境名：Qwen2.5，版本号：3.10
conda create -n Qwen2.5 python=3.10 -y
# 激活虚拟环境
conda activate Qwen2.5
接下来，在虚拟环境中下载依赖包：
pip install torch
pip install modelscope
pip install "transformers>=4.37.0"
pip install "accelerate>=0.26.0"
我们先通过一个简单数学方程：4X+5=6X+7，验证一下 Qwen2.5-Math 的推理能力。
# Qwen2.5-Math-Eval-01.py
import os
from modelscope import AutoModelForCausalLM, AutoTokenizer
# 权重文件目录
model_dir = os.path.join('D:', os.sep, 'ModelSpace', 'Qwen2.5', 'Qwen2.5-Math-1.5B-Instruct')
print(f'权重目录：{model_dir}')
# 初始化模型
model = AutoModelForCausalLM.from_pretrained(
model_dir,
torch_dtype='auto',
device_map='auto',
local_files_only=True,
)
# 初始化分词器
tokenizer = AutoTokenizer.from_pretrained(
model_dir,
local_files_only=True,
)
# Prompt 提示词
prompt = '请计算等式中的 X 值：4X+5=6X+7'
messages = [
{'role': 'system', 'content': '你是一位数学专家，特别擅长解答数学题。'},
{'role': 'user', 'content': prompt}
]
text = tokenizer.apply_chat_template(
messages,
tokenize=False,
add_generation_prompt=True,
)
model_inputs = tokenizer(
[text],
return_tensors='pt',
).to(model.device)
print(f'开始推理：{prompt}')
generated_ids = model.generate(
**model_inputs,
max_new_tokens=512,
)
print('推理完成.')
generated_ids = [
output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(
generated_ids,
skip_special_tokens=True,
)[0]
print(f'推理结果：{response}')
执行本 Python 程序：python Qwen2.5-Math-Eval-01.py，可以看到 Qwen2.5-Math 模型通过 CoT 的推理方式给出了结果。从最终结果来看，Qwen2.5-Math 推理过程很清晰，和我们的思维模型比较相近。
上面一元一次方程只是简单体验，接下来我们通过奥数题目，对 Qwen2.5-Math 发出挑战。因此，我们将采用 Qwen2.5-Math-72B 目前地表最强数学模型，来解答小学和初中奥数题目。
我们将通过以下步骤，完成 Qwen2.5-Math 整个奥数题挑战验证：
分别找 3 道小学和 3 道初中奥数题目，通过 JSON 格式文件存储每道题目，每道题由等级、题目和答案组成：
[
{
"level": "小学",
"title": "小明和小红共有 100 元钱，小明比小红多 20 元。请问小明和小红分别有多少钱？",
"answer": "小明：60 元，小红：40 元"
}, {
"level": "小学",
"title": "小明围绕长方形操场跑步，跑了 3 圈共 480 米，操场的长比宽多 20 米。请问操场面积是多少平方米？",
"answer": "操场面积：1500 平方米"
}, {
"level": "小学",
"title": "甲乙二人从两地沿直线同时相对而行，经过 4 小时，在距离中点 4 千米处相遇，甲比乙的速度快。请问甲每小时比乙快多少千米？",
"answer": "甲每小时比乙快：2 千米"
}, {
"level": "初中",
"title": "小明和小红以同样多的钱买了同一种铅笔，小明要了 13 支，小红要了 7 支，小明又给小红 0.6 元钱。请问每支铅笔多少钱？",
"answer": "每支铅笔：0.2 元"
}, {
"level": "初中",
"title": "父亲今年 45 岁，儿子今年 15 岁。请问多少年前父亲的年龄是儿子年龄的 11 倍？",
"answer": "12 年前"
}, {
"level": "初中",
"title": "商店有一套运动服，成本价为 100 元，按标价的 8 折出售仍可获利 20 元。请问这套运动服的标价是多少元？",
"answer": "这套运动服的标价：150 元"
}
]
由于本地推理速度较慢，接下来将使用阿里云百炼平台 API 完成奥数推理。如果大家对自己电脑配置有信心，可以直接使用本地模型进行验证。
奥数题目的推理程序逻辑有 3 部分组成（Qwen2.5-Math-奥数推理.py）：
如果通过调用 API 完成推理，请先安装依赖包：pip install OpenAI
# Qwen2.5-Math-奥数推理.py
import os
import json
from openai import OpenAI
# 初始化客户端：提前配置好 DASHSCOPE_API_KEY 环境变量
client = OpenAI(
api_key=os.getenv('DASHSCOPE_API_KEY'),
base_url='https://dashscope.aliyuncs.com/compatible-mode/v1',
)
# 读取奥数题目
input_file = 'Qwen2.5-Math-奥数题目.json'
with open(input_file, 'r', encoding='utf-8') as file:
data = json.load(file)
# 循环每道题目，请求推理服务
output_data = []
for item in data:
print('')
print(f'奥数题目-> {item["title"]}')
print(f'期望答案-> {item["answer"]}')
completion = client.chat.completions.create(
model='qwen2.5-math-72b-instruct',
messages=[
{'role': 'system', 'content': '你是一位数学专家，特别擅长解答数学题。'},
{'role': 'user', 'content': item["title"]}
],
)
# 获取推理结果
result = json.loads(completion.model_dump_json())
content = result['choices'][0]['message']['content']
print(f'推理结果-> {content}')
# 暂存结果，后面统一存储到文件
output = {
'level': item['level'],
'title': item['title'],
'answer': item['answer'],
'result': content
}
output_data.append(output)
print('')
# 保存推理结果
output_file = 'Qwen2.5-Math-推理结果.md'
with open(output_file, "w", encoding="utf-8") as file:
for output in output_data:
file.write(f'{output["level"]}题目：{output["title"]}\n\n期望答案：{output["answer"]}\n\n')
file.write(f'{output["result"]}\n\n---\n\n')
Qwen2.5-Math-72B 果然没有让人失望，推理过程较快，并且推理的每一步都清晰明了。
最后一步，我们打开 Qwen2.5-Math-72B 推理结果文件 Qwen2.5-Math-推理结果.md，确定其准确率：100%（奥数题全对）。它的推理速度非常快，并且推理的步骤都非常清晰明了。
对于有辅导家庭作业需求的朋友，如果您在辅导作业时感到头疼的话，可以尝试使用 Qwen2.5-Math，让我们真正体验一下高效辅助学习的乐趣。
通过本次实战，我们验证了 Qwen2.5-Math 在数学解题领域的强大能力。无论是本地轻量级部署还是云端 API 调用，该模型都能提供清晰的推理步骤和高准确率的计算结果。
在实际应用中，建议根据硬件资源选择合适的模型版本。对于个人开发者，1.5B 或 3B 版本适合本地快速测试；对于生产环境或复杂推理任务，72B 版本配合 API 调用能获得最佳效果。同时，利用 TIR 功能结合 Python 代码解释器，可以进一步提升复杂计算的准确性。
未来随着模型能力的迭代，Qwen2.5-Math 有望在教育科技、自动化解题及科学计算等领域发挥更大的作用。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online