旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

🦕 旧电脑 Win7 复活计划:编译与运行 llama.cpp (Qwen3版)

这份指南专为不支持新版软件的 Windows 7 设计,通过本地编译实现大模型运行。

手动编译可以获得最好的性能,不想自己手动编译 可以直接使用下面编译好的bin文件,同时包含下面用到的相关软件和替换文件httplib.h
链接:https://pan.quark.cn/s/2c5f627c93d7
提取码:cSJh

📋 0. 软件版本清单

请务必确保使用以下特定版本,以保证在 Win7 下的兼容性:

软件名称文件名 (根据截图)作用备注
编译环境w64devkit-x64-2.5.0.7z.exe提供 GCC 编译器核心工具
构建工具cmake-3.31.10-windows-x86_64.msi生成编译配置必须安装到默认路径
源码工具Git_for_Windows_(64bit)_v2.45.2.exe下载代码
浏览器Firefox Setup 115.30.0esr.exe唯一推荐Win7 支持的最后版本,用于打开聊天界面
备用浏览器109.0.5414.120_chrome_installer.exeChrome 109Win7 支持的最后 Chrome 版本

📥 第一阶段:下载代码并替换httplib.h (使用 Git Bash)

操作环境:Windows 桌面/资源管理器

  1. 准备目录:建议在 C 盘根目录 下操作,路径短,不容易出错。
  2. 打开 Git:在 C 盘空白处右键 -> “Open Git Bash here”
  3. 执行命令(请一行一行复制运行):
# 1. 克隆 llama.cpp 仓库git clone https://github.com/ggerganov/llama.cpp.git # 2. 进入文件夹cd llama.cpp # 3. 【核心步骤】切换到支持 Qwen3 的特定版本 (Tag: b5092)git checkout b5092 # 4. 【核心步骤】替换 /examples/server/httplib.h 文件 夸克网盘自取 
  1. 确认路径:确保代码文件夹就在 C:\llama.cpp

🛠️ 第二阶段:准备编译环境

操作环境w64devkit.exe 黑色终端

  1. 🛑 关闭杀毒软件 (Win7 必做)
    • 请务必彻底退出 360、腾讯管家、金山毒霸等。
    • 原因:Win7 下这些软件会拦截编译器生成的 conftest.exe 等临时文件,直接导致 Access Violation 报错。
  2. 启动编译终端
    • 解压 w64devkit-x64-2.5.0.7z.exe
    • 双击运行文件夹内的 w64devkit.exe
    • 在黑框中输入以下命令(注意路径写法):

进入代码目录

cd /c/llama.cpp 

⚙️ 第三阶段:清理与配置 (CMake)

操作环境w64devkit.exe 黑色终端

    • 直接复制下面这行长命令运行:
    • 成功标志:屏幕滚动后显示 Generating done

生成配置文件 (Win7 专用修复版)

"C:\Program Files\CMake\bin\cmake.exe". -G "MinGW Makefiles" -DLLAMA_CURL=OFF -DLLAMA_BUILD_TESTS=OFF -DCMAKE_C_COMPILER=gcc -DCMAKE_CXX_COMPILER=g++ 

清理环境 (防止旧缓存报错)

rm -f CMakeCache.txt rm -rf CMakeFiles 

🚀 第四阶段:执行编译

操作环境w64devkit.exe 黑色终端

    • -j4 表示使用 4 线程加速,如果电脑配置极低可改为 -j2
  1. 等待完成
    • 耐心等待进度条走到 [100%]
    • 编译完成后,bin 文件夹下会出现 llama-server.exe

开始编译

"C:\Program Files\CMake\bin\cmake.exe" --build . --config Release -j4 

✅ 第五阶段:验证结果

    • 在当前终端输入:
    • 看到 commit d3bd719 字样即为成功。

检查版本

./bin/llama-server.exe --version 

🤖 第六阶段:启动 Qwen3 模型 (Win7 专用方案)

Win7 的 CMD 窗口无法很好地显示聊天文字,必须使用浏览器模式

准备工作

  • 安装 Firefox 115 ESR (Firefox Setup 115.30.0esr.exe)。这是 Win7 下最稳定、兼容性最好的现代浏览器。

情况 A:加载 .gguf 文件

假设模型文件在 C:\models\qwen3.gguf

    • -c 4096: 上下文长度。如果内存大于 16G,可以设为 8192 或更高。

启动命令

./bin/llama-server.exe -m "/c/models/qwen3.gguf" -c 4096 --host 0.0.0.0 --port 8080

情况 B:加载 Ollama 缓存模型

如果你用 Ollama 下载过 Qwen3,可以直接利用它的缓存文件(无需转换)。

  1. 找到 Blob 文件
    • 路径:C:\Users\你的用户名\.ollama\models\blobs
    • 找到最大的那个文件(例如 sha256-abc1234...)。

启动命令

./bin/llama-server.exe -m "/c/Users/Administrator/.ollama/models/blobs/sha256-你的文件名..." -c 4096 --host 0.0.0.0 --port 8080

🌐 最后一步:开始对话

  1. 当黑框显示 HTTP server listening 时,保持黑框开启(不要关闭)。
  2. 打开 Firefox 115 浏览器。
  3. 地址栏输入:http://127.0.0.1:8080
  4. 界面加载后,即可在浏览器中与 Qwen3 流畅对话!
在这里插入图片描述

Read more

Janus-Pro-7B快速上手:上传图片问答+文本生成5图的零基础教程

Janus-Pro-7B快速上手:上传图片问答+文本生成5图的零基础教程 本文是专为AI新手设计的Janus-Pro-7B零基础教程,无需任何技术背景,10分钟就能学会上传图片问答和文本生成5张图片的完整操作。 1. 什么是Janus-Pro-7B? Janus-Pro-7B是一个强大的多模态AI模型,简单来说就是能同时理解图片和生成图片的智能工具。它有两个核心功能: * 看懂图片并回答问题:上传一张图片,它能描述图片内容、识别文字、回答关于图片的问题 * 文字生成图片:输入一段文字描述,它能一次性生成5张不同的图片 这个模型有74亿参数,需要16GB以上的显卡内存才能流畅运行。不过不用担心,我们只需要关注怎么使用它,技术细节交给系统处理。 2. 环境准备与快速启动 2.1 三种启动方式 Janus-Pro-7B已经预装好了,我们只需要启动它。有三种方法,推荐第一种: 方法一:使用启动脚本(最简单) cd /root/Janus-Pro-7B ./start.sh 方法二:直接启动 /opt/miniconda3/envs/py310/bin/pyth

Flowise创新应用:结合Web Scraping的数据采集流程

Flowise创新应用:结合Web Scraping的数据采集流程 1. 引言:当可视化工作流遇见数据采集 想象一下这样的场景:你需要从几十个网站上收集最新的行业数据,传统方法要么需要写复杂的爬虫代码,要么要手动复制粘贴,费时费力还容易出错。现在,有了Flowise这个可视化工具,只需要拖拽几个节点,就能搭建出智能的数据采集工作流。 Flowise是一个开源的拖拽式大语言模型工作流平台,它把复杂的技术细节封装成简单的可视化节点,让你像搭积木一样构建AI应用。特别适合不会编程但需要快速实现数据采集和分析的团队。 本文将带你了解如何用Flowise结合网页抓取功能,构建高效的数据采集流程,无需编写代码就能实现智能化的信息提取和处理。 2. Flowise核心功能快速了解 2.1 什么是Flowise? Flowise是一个在2023年开源的视觉化LLM工作流构建平台,目前已经在GitHub上获得了超过4.5万个星标。它的核心价值在于让非技术人员也能快速搭建AI应用。 简单来说,Flowise把LangChain的各种功能封装成了可视化节点,你只需要在画布上拖拽这些节点,

别再手动切图!用 ClaudeCode+Figma-MCP 实现 UI 设计 1:1 前端还原

使用 Figma-MCP 实现设计还原 Figma-MCP(Measure Copy Paste)是 Figma 的插件,能够快速提取设计稿中的间距、颜色、尺寸等参数,避免手动测量。安装后选中元素即可查看属性,按 Alt 键复制数值,直接粘贴到代码中。 配置 ClaudeCode 生成代码 ClaudeCode 是 Claude 的代码生成功能,支持根据设计参数输出前端代码。在对话中描述需求并附上 Figma-MCP 提取的数据,例如: 生成一个 React 按钮组件,参数如下: - 宽度:120px - 高度:40px - 背景色:#3B82F6 - 圆角:8px - 文字:"

前端监控体系完全指南:从错误捕获到用户行为分析(Vue 3 + Sentry + Web Vitals)

前端监控体系完全指南:从错误捕获到用户行为分析(Vue 3 + Sentry + Web Vitals)

摘要: 本文系统讲解如何搭建一套 可落地、可扩展、低成本 的前端监控系统。通过 5 层监控架构(异常捕获 → 性能度量 → 行为追踪 → 数据聚合 → 告警响应),实现 99.9% 错误覆盖率、FCP/FID/LCP 实时监控、用户操作录像回放、关键路径转化分析。包含 8 个完整代码示例、3 种采样策略对比、GDPR 合规方案 和 私有化部署指南,助你将“黑盒”前端变为“透明”可观测系统。 关键词:前端监控;Sentry;Web Vitals;Session Replay;用户行为分析;ZEEKLOG 一、为什么你需要前端监控? 1.