
DGX Spark 部署 vLLM 与 Open WebUI 运行 Qwen3-Coder-Next-FP8(CUDA 13.0)
DGX Spark 部署 vLLM 与 Open WebUI 运行 Qwen3-Coder-Next-FP8(CUDA 13.0)。记录在 NVIDIA DGX Spark(Grace Blackwell 架构)上部署 vLLM 推理服务并接入 Open WebUI 的完整流程。包含 FlashAttention 编译、vLLM wheel 安装、模型加载等关键步骤,适配 aarch64 + CUDA 13.0 环境。提供单机与容器化部…














