llama.cpp 官方提供的 Docker 镜像下载命令如下:
docker pull ghcr.io/ggml-org/llama.cpp:server-cuda
在部分网络环境下,直接拉取官方镜像速度较慢。

较好的方法是把 ghcr.io 替换为国内镜像源地址 ghcr.nju.edu.cn 进行下载:
# 国内镜像源命令
docker pull ghcr.nju.edu.cn/ggml-org/llama.cpp:server-cuda
使用国内镜像源可显著提升下载速度。
llama.cpp Docker 镜像在国内访问 GitHub Container Registry 时下载速度较慢。通过配置国内镜像源 ghcr.nju.edu.cn 替代默认的 ghcr.io,可以大幅提升拉取效率。具体操作是将 docker pull 命令中的仓库地址进行替换。
llama.cpp 官方提供的 Docker 镜像下载命令如下:
docker pull ghcr.io/ggml-org/llama.cpp:server-cuda
在部分网络环境下,直接拉取官方镜像速度较慢。

较好的方法是把 ghcr.io 替换为国内镜像源地址 ghcr.nju.edu.cn 进行下载:
# 国内镜像源命令
docker pull ghcr.nju.edu.cn/ggml-org/llama.cpp:server-cuda
使用国内镜像源可显著提升下载速度。

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online
将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online