Llama.cpp Docker 镜像下载问题
目前 Llama.cpp 官方提供的 Docker 镜像下载命令如下:
docker pull ghcr.io/ggml-org/llama.cpp:server-cuda-b6222
在国内服务器环境下,直接拉取该镜像的速度通常非常慢。
解决方案
推荐使用国内镜像源地址 ghcr.nju.edu.cn 替换默认的 ghcr.io 进行下载。
命令对比
-
官方命令:
docker pull ghcr.io/ggml-org/llama.cpp:server-cuda -
国内源地址命令:
docker pull ghcr.nju.edu.cn/ggml-org/llama.cpp:server-cuda
使用国内镜像源后,下载速度可提升数十倍,显著节省部署时间。

