llama.cpp 加载多模态 GGUF 模型的方法，涵盖命令行工具 llama-mtmd-cli 的使用及 Python 库 llama-cpp-python 的集成方式。重点提示模型主文件与 mmproj 文件需保持来源一致以确保兼容性，并指出预编译包可能存在 CUDA 版本限制。
llama-mtmd-cli -m Qwen2.5-VL-3B-Instruct-q8_0.gguf --mmproj Qwen2.5-VL-3B-Instruct-mmproj-f16.gguf -p "Describe this image." --image ./car-1.jpg
模型主 gguf 文件要和 mmproj 文件从一个库里下载，否则会有兼容问题，建议从 ggml 的官方库里下载 Multimodal GGUFs 官方库
要使用 LlamaChatHandler 类，官方已经写好了不少多模态模型的加载类，比如 qwen2.5vl 的写法：
from llama_cpp import Llama
微信公众号「极客日志V2」，在微信中扫描左侧二维码关注。展示文案：极客日志V2 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
随机生成西班牙地址（支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选），支持数量快捷选择、显示全部与下载。 在线工具，随机西班牙地址生成器在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online