PythonAI
Windows 系统下 vLLM 安装与配置实战
Windows 环境下运行 vLLM 大模型推理引擎需借助特定分支版本。主要提供 wheel 包预编译安装和源码构建两种方式。前者依赖版本匹配，后者需 Visual Studio 及 CUDA 环境支持。注意 Flash Attention 默认禁用，环境变量配置需谨慎。详细列出了两种方法的步骤、依赖要求及常见坑点，帮助开发者在 Windows 平台上顺利部…
发布于 2026/3/2169 浏览0 点赞
博客作者
静心
心如止水
加入于 2026/4/7统计更新于 2026/8/27
356
已发布文章
11K
博客获赞
699K
博客浏览
发布的文章
第 13 页
C++算法
C++ 基础入门指南
C++ 基础入门指南涵盖了开发环境搭建、基础语法、数据类型、运算符、流程控制、函数、数组、指针及面向对象编程等核心知识点。文章通过 Hello World 示例讲解环境配置，详细阐述了变量、常量、标识符规则，并对比了宏常量与 const 常量。内容包含算术、赋值、比较、逻辑运算符用法，以及 if、switch、for、while 等流程控制结构。此外，深入讲…
