使用 llama.cpp 本地部署大模型遇到的问题及解决方案
背景
在使用本地大模型工具时遇到显存占用及配置问题，遂记录相关解决步骤。
下载与基础启动
llama.cpp 下载地址： https://github.com/ggml-org/llama.cpp/releases
以下是 llama.cpp 调用模型的基本用法，将代码保存为 bat 文件，放在和 llama-server.exe 同目录下运行（确保模型位置选对，GPU_LAYERS 和 THREADS 根据机器能力）：
@echo off
setlocal
set "MODEL_PATH=F:\Models\Yakyu"
set "MODEL_FILE=Qwen3-235B-A22B-Instruct-2507-UD-Q8.gguf"
set CTX_SIZE=32768
set HOST=127.0.0.1
set PORT=1234
echo 正在启动 OpenAI 兼容 API 服务...
echo 模型：%MODEL_PATH%\%MODEL_FILE%
echo 端口：http://%HOST%:%PORT%
echo.
llama-server.exe ^
-m "%MODEL_PATH%\%MODEL_FILE%" ^
--ctx-size %CTX_SIZE% ^
--host %HOST% ^
--port %PORT%
echo.
echo 服务已停止。按任意键关闭窗口...
pause >nul
CMD 窗口显示'all slots are idle'说明模型加载完成，此时可以调用。如果出现乱码将 .bat 文件保存为 ANSI 编码格式即可。
注：通过 llama-server.exe -h 命令可以看到参数说明。默认打开了自动适应内存 (--fit on)，--gpu-layers、--n-cpu-moe 等参数不填也行，具体效果视设备情况而定。
参考文章：https://www.hardware-corner.net/gpt-oss-offloading-moe-layers/ 合理设置 --n-cpu-moe 的值能提速。
下面是可调参数多一点的版本：
@echo off
setlocal
set "MODEL_PATH=F:\Models\Yakyu"
set "MODEL_FILE=Qwen3-Next-80B-A3B-Instruct-abliterated-Q8_0.gguf"
set GPU_LAYERS=64
set THREADS=64
set CTX_SIZE=32768
set HOST=127.0.0.1
set PORT=1234
echo 正在启动 OpenAI 兼容 API 服务...
echo 模型：%MODEL_PATH%\%MODEL_FILE%
echo 端口：http://%HOST%:%PORT%
echo.
llama-server.exe ^
-m "%MODEL_PATH%\%MODEL_FILE%" ^
--gpu-layers %GPU_LAYERS% ^
--threads %THREADS% ^
--ctx-size %CTX_SIZE% ^
--n-cpu-moe 10 ^
--host %HOST% ^
--port %PORT%
echo.
echo 服务已停止。按任意键关闭窗口...
pause >nul
合并分片模型
多个分片（shard）组成的 GGUF 分片模型用 llama-gguf-split 合并成一个才能用：
D:\Yakyu\llama-b7640-bin-win-cuda-12.4-x64\llama-gguf-split.exe --merge F:/Models/Yakyu/Qwen3-235B-A22B-Instruct-2507/Qwen3-235B-A22B-Instruct-2507-UD-Q8_K_XL-00001-of-00006.gguf F:/Models/Yakyu/Qwen3-235B-A22B-Instruct-2507-UD-Q8.gguf
打开 cmd 输入代码即可。
问题一：SillyTavern 调用时报错
错误信息：Chat Completion API Assistant response prefill is incompatible with enable_thinking
当加载的模型是 DeepSeek 时酒馆就会报这个错。
解决办法：
- 换用文本补全模式
- bat 代码中增加 --reasoning-budget 0 来关闭思考
完整代码如下：
