跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Python

旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

🦕 旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版) 这份指南专为不支持新版软件的 Windows 7 设计,通过本地编译实现大模型运行。 手动编译可以获得最好的性能,不想自己手动编译 可以直接使用下面编译好的bin文件,同时包含下面用到的相关软件和替换文件httplib.h 链接:https://pan.quark.cn/s/2c5f627c93d7 提取码:cSJ…

赛博朋克发布于 2026/4/6更新于 2026/10/1780K 浏览
旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

🦕 旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

这份指南专为不支持新版软件的 Windows 7 设计,通过本地编译实现大模型运行。

手动编译可以获得最好的性能,不想自己手动编译 可以直接使用下面编译好的bin文件,同时包含下面用到的相关软件和替换文件httplib.h
链接:https://pan.quark.cn/s/2c5f627c93d7
提取码:cSJh

📋 0. 软件版本清单

请务必确保使用以下特定版本,以保证在 Win7 下的兼容性:

软件名称文件名 (根据截图)作用备注
编译环境w64devkit-x64-2.5.0.7z.exe提供 GCC 编译器核心工具
构建工具cmake-3.31.10-windows-x86_64.msi生成编译配置必须安装到默认路径
源码工具Git_for_Windows_(64bit)_v2.45.2.exe下载代码
浏览器Firefox Setup 115.30.0esr.exe唯一推荐Win7 支持的最后版本,用于打开聊天界面
备用浏览器109.0.5414.120_chrome_installer.exeChrome 109Win7 支持的最后 Chrome 版本

📥 第一阶段:下载代码并替换httplib.h (使用 Git Bash)

操作环境:Windows 桌面/资源管理器

  1. 准备目录:建议在 C 盘根目录 下操作,路径短,不容易出错。
  2. 打开 Git:在 C 盘空白处右键 -> 'Open Git Bash here'。
  3. 执行命令(请一行一行复制运行):
# 1. 克隆 llama.cpp 仓库git clone https://github.com/ggerganov/llama.cpp.git # 2. 进入文件夹cd llama.cpp # 3. 【核心步骤】切换到支持 Qwen3 的特定版本 (Tag: b5092)git checkout b5092 # 4. 【核心步骤】替换 /examples/server/httplib.h 文件 夸克网盘自取 
  1. 确认路径:确保代码文件夹就在 C:\llama.cpp。

🛠️ 第二阶段:准备编译环境

操作环境: 黑色终端

w64devkit.exe
  1. 🛑 关闭杀毒软件 (Win7 必做)
    • 请务必彻底退出 360、腾讯管家、金山毒霸等。
    • 原因:Win7 下这些软件会拦截编译器生成的 conftest.exe 等临时文件,直接导致 Access Violation 报错。
  2. 启动编译终端
    • 解压 w64devkit-x64-2.5.0.7z.exe。
    • 双击运行文件夹内的 w64devkit.exe。
    • 在黑框中输入以下命令(注意路径写法):

进入代码目录

cd /c/llama.cpp 

⚙️ 第三阶段:清理与配置 (CMake)

操作环境:w64devkit.exe 黑色终端

  • 直接复制下面这行长命令运行:

  • 成功标志:屏幕滚动后显示 Generating done。

生成配置文件 (Win7 专用修复版)

"C:\Program Files\CMake\bin\cmake.exe". -G "MinGW Makefiles" -DLLAMA_CURL=OFF -DLLAMA_BUILD_TESTS=OFF -DCMAKE_C_COMPILER=gcc -DCMAKE_CXX_COMPILER=g++ 

清理环境 (防止旧缓存报错)

rm -f CMakeCache.txt rm -rf CMakeFiles 

🚀 第四阶段:执行编译

操作环境:w64devkit.exe 黑色终端

  • -j4 表示使用 4 线程加速,如果电脑配置极低可改为 -j2。
  1. 等待完成
    • 耐心等待进度条走到 [100%]。
    • 编译完成后,bin 文件夹下会出现 llama-server.exe。

开始编译

"C:\Program Files\CMake\bin\cmake.exe" --build . --config Release -j4 

✅ 第五阶段:验证结果

  • 在当前终端输入:

  • 看到 commit d3bd719 字样即为成功。

检查版本

./bin/llama-server.exe --version 

🤖 第六阶段:启动 Qwen3 模型 (Win7 专用方案)

Win7 的 CMD 窗口无法很好地显示聊天文字,必须使用浏览器模式。

准备工作
  • 安装 Firefox 115 ESR (Firefox Setup 115.30.0esr.exe)。这是 Win7 下最稳定、兼容性最好的现代浏览器。
情况 A:加载 .gguf 文件

假设模型文件在 C:\models\qwen3.gguf。

  • -c 4096: 上下文长度。如果内存大于 16G,可以设为 8192 或更高。

启动命令:

./bin/llama-server.exe -m "/c/models/qwen3.gguf" -c 4096 --host 0.0.0.0 --port 8080
情况 B:加载 Ollama 缓存模型

如果你用 Ollama 下载过 Qwen3,可以直接利用它的缓存文件(无需转换)。

  1. 找到 Blob 文件:
    • 路径:C:\Users\你的用户名\.ollama\models\blobs
    • 找到最大的那个文件(例如 sha256-abc1234...)。

启动命令:

./bin/llama-server.exe -m "/c/Users/Administrator/.ollama/models/blobs/sha256-你的文件名..." -c 4096 --host 0.0.0.0 --port 8080
🌐 最后一步:开始对话
  1. 当黑框显示 HTTP server listening 时,保持黑框开启(不要关闭)。
  2. 打开 Firefox 115 浏览器。
  3. 地址栏输入:http://127.0.0.1:8080
  4. 界面加载后,即可在浏览器中与 Qwen3 流畅对话!

在这里插入图片描述

目录

  1. 🦕 旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)
  2. 📋 0. 软件版本清单
  3. 📥 第一阶段:下载代码并替换httplib.h (使用 Git Bash)
  4. 1. 克隆 llama.cpp 仓库git clone https://github.com/ggerganov/llama.cpp.git # 2. 进入文件夹cd llama.cpp # 3. 【核心步骤】切换到支持 Qwen3 的特定版本 (Tag: b5092)git checkout b5092 # 4. 【核心步骤】替换 /examples/server/httplib.h 文件 夸克网盘自取
  5. 🛠️ 第二阶段:准备编译环境
  6. ⚙️ 第三阶段:清理与配置 (CMake)
  7. 🚀 第四阶段:执行编译
  8. ✅ 第五阶段:验证结果
  9. 🤖 第六阶段:启动 Qwen3 模型 (Win7 专用方案)
  10. 准备工作
  11. 情况 A:加载 .gguf 文件
  12. 情况 B:加载 Ollama 缓存模型
  13. 🌐 最后一步:开始对话

更多推荐文章

查看全部
  • 海螺 AI 多模态架构解析与 API 接入指南
  • QMT 平台 MACD 金叉死叉交易策略 Python 实现
  • OpenClaw 与 Discord 多 Agent 多频道配置指南
  • 前端数据库 IndexedDB 详解:构建强大的离线 Web 应用
  • OpenClaw 实战指南:配置第三方 API 接入 Claude 模型
  • Copilot Plan Mode 与多模型协同实战:复杂项目重构指南
  • C++ mio 库内存映射文件 IO 使用指南
  • Python+AI 实战:搭建本地智能问答机器人
  • Obsidian Copilot API 密钥配置实战:OpenRouter、Gemini 与 OpenAI 集成
  • 小智 AI 完整的 MCP 交互流程
  • OpenTenBase 企业级分布式 HTAP 数据库部署指南
  • Java 时间类(中):JDK8 全新时间 API 详细教程
  • Spring Security 核心原理与实战应用
  • 没有NVLink的多卡环境,vLLM部署Qwen-VL为何卡死?llama.cpp却跑通了
  • Neo4j Desktop 2.0 安装及自定义路径配置指南
  • MoE 起源:1991 年 Adaptive Mixtures of Local Experts 论文解读
  • Java 常用类详解
  • 鸿蒙系统若不再兼容安卓,对行业生态有何影响?
  • VSCode 集成 Git Bash 终端配置与优化指南
  • LLaMA Factory 多模态微调实践

相关免费在线工具

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online

  • HTML转Markdown

    将 HTML 片段转为 GitHub Flavored Markdown,支持标题、列表、链接、代码块与表格等;浏览器内处理,可链接预填。 在线工具,HTML转Markdown在线工具,online

  • JSON 压缩

    通过删除不必要的空白来缩小和压缩JSON。 在线工具,JSON 压缩在线工具,online