ClawdBot环境部署：vLLM后端+Web控制台+设备授权全链路解析

优质文章学习记录

— 12 min read

ClawdBot环境部署：vLLM后端+Web控制台+设备授权全链路解析

ClawdBot 是一个你可以在自己设备上运行的个人 AI 助手，本应用使用 vLLM 提供后端模型能力。它不是云端服务，也不是需要注册账号的 SaaS 工具，而是一个真正属于你、跑在你本地或私有服务器上的智能体运行时——你可以完全掌控数据流向、模型选择、权限边界和交互逻辑。

它不像传统聊天界面那样只做“问答”，而是以「智能体网关（Agent Gateway）」为核心设计：支持多模型调度、多通道接入（Telegram / Web / CLI）、多工作区隔离、细粒度设备授权，并内置完整的模型管理、日志追踪与配置热更新能力。整个系统由三大部分构成：vLLM 驱动的高性能推理后端、基于 Gradio 构建的轻量级 Web 控制台、以及一套基于设备指纹 + Token 的双向认证授权机制。这三者共同构成了从模型加载到用户访问的完整闭环。

1. 部署前的认知准备：ClawdBot 不是“另一个 Chat UI”

在动手之前，先明确一件事：ClawdBot 的定位，和市面上大多数“一键启动大模型 Web UI”的项目有本质区别。

它不追求炫酷的前端动画，也不主打“开箱即用的对话体验”。它的核心价值在于可控性、可组合性与可审计性——你可以把它看作一个“AI 智能体操作系统”，而不是一个“AI 聊天网页”。

  • 它允许你把多个模型（Qwen、Llama、Phi 等）同时挂载，按任务类型自动路由；
  • 它支持将同一个模型暴露给不同渠道（比如 Web 界面给家人用，Telegram 给同事用），并为每个渠道分配独立权限；
  • 它的设备授权机制不是简单的登录密码，而是类似 SSH Key 的双向信任链：你的浏览器要被 ClawdBot 承认，ClawdBot 也要被你的浏览器确认；
  • 所有配置变更（包括模型切换、API 地址修改、代理设置）都可通过 JSON 文件或 Web 界面实时生效，无需重启服务。

换句话说，ClawdBot 的目标用户，不是想“试试大模型有多聪明”的新手，而是希望把 AI 能力像数据库、缓存、消息队列一样，作为基础设施嵌入自己工作流的技术实践者。

2. 全链路部署实操：从容器拉取到 Web 可访问

ClawdBot 的部署流程看似简单，但每一步背后都有明确的设计意图。我们不跳过任何环节，逐层拆解。

2.1 基础环境与镜像获取

ClawdBot 官方提供预构建的 Docker 镜像，适配 x86_64 与 ARM64（含树莓派 4/5）。推荐使用 docker-compose 方式部署，便于后续扩展通道（如 Telegram、Discord）。

# 创建项目目录 mkdir -p ~/clawdbot && cd ~/clawdbot # 下载 docker-compose.yml（官方推荐模板） curl -O https://raw.githubusercontent.com/clawd-bot/clawd/main/docker-compose.yml # 启动（首次会自动拉取镜像，约 1.2GB） docker compose up -d

镜像内已预装：

  • vLLM 0.6.3（支持 PagedAttention、Continuous Batching）
  • Qwen3-4B-Instruct-2507 模型权重（量化版，显存占用约 3.2GB）
  • Gradio 4.42（Web 控制台）
  • uvicorn + starlette（API 网关）
  • SQLite 数据库存储设备授权记录与会话日志
注意：该镜像默认不开启 GPU 加速。若你使用 NVIDIA 显卡，请确保已安装 nvidia-container-toolkit，并在 docker-compose.yml 中添加 runtime: nvidia 和 environment: NVIDIA_VISIBLE_DEVICES=all。

2.2 设备授权：为什么第一次打不开 Web 页面？

这是 ClawdBot 最常被问到的问题——启动成功后访问 http://localhost:7860 显示空白或 403 错误。原因很直接：ClawdBot 默认拒绝所有未经显式授权的设备连接，这是其隐私优先设计的核心体现。

它不采用 Cookie 或 Session 登录，而是通过「设备指纹 + 一次性审批」完成首次信任建立：

  1. 启动后，ClawdBot 会在后台监听 http://localhost:18780（网关）和 http://localhost:7860（Web 控制台）；
  2. 当你在浏览器中打开 http://localhost:7860，前端会向网关发起设备注册请求；
  3. 该请求被暂存在待审批队列中，状态为 pending；
  4. 你需要通过 CLI 工具手动批准该设备。

执行以下命令查看待审批设备：

clawdbot devices list

你会看到类似输出：

ID Status Fingerprint (first 16) Created At a1b2c3d4-e5f6-7890-g1h2-i3j4k5l6m7n8 pending 8a3f9c2e1d4b7f6a 2026-01-24 14:22:03

复制 ID，执行审批：

clawdbot devices approve a1b2c3d4-e5f6-7890-g1h2-i3j4k5l6m7n8

审批成功后，刷新页面即可正常进入 Web 控制台。

小贴士：如果你在远程服务器（如云主机）上部署，且本地没有 GUI，可使用 clawdbot dashboard 获取带 token 的临时链接：

2.3 vLLM 后端验证：确认模型已就绪

ClawdBot 的推理能力完全依赖 vLLM 提供的 OpenAI 兼容 API。默认配置下，它会启动一个本地 vLLM 服务，监听 http://localhost:8000/v1。

你可以用 curl 快速验证：

curl http://localhost:8000/v1/models

预期返回：

{ "object": "list", "data": [ { "id": "Qwen3-4B-Instruct-2507", "object": "model", "created": 1737728523, "owned_by": "vllm" } ] }

再通过 ClawdBot CLI 查看模型注册状态：

clawdbot models list

输出中应包含 vllm/Qwen3-4B-Instruct-2507，且 Local Auth 列为 yes，表示模型已成功挂载并可通过本地认证调用。

3. 模型配置详解：不只是换一个 model_id

ClawdBot 的模型配置分为两层：Provider 层（vLLM） 和 Agent 层（智能体）。理解这两者的分工，是实现灵活调度的关键。

3.1 Provider 层：定义“谁来算”

位于 clawdbot.json 的 models.providers 节点，描述的是“计算资源”的连接方式。以 vLLM 为例：

"vllm": { "baseUrl": "http://localhost:8000/v1", "apiKey": "sk-local", "api": "openai-responses", "models": [ { "id": "Qwen3-4B-Instruct-2507", "name": "Qwen3-4B-Instruct-2507" } ] }
  • baseUrl：必须指向一个兼容 OpenAI v1 API 的服务（vLLM、Ollama、AnythingLLM 均可）；
  • apiKey：仅用于本地鉴权，无实际安全意义（因服务仅监听 localhost）；
  • api：指定响应格式，“openai-responses” 表示返回标准 OpenAI 格式（含 choices[0].message.content）；
  • models：声明该 Provider 下可用的具体模型 ID 列表。
实践建议：如果你想接入远程 vLLM（如部署在另一台 GPU 服务器），只需修改 baseUrl 为 http://192.168.1.100:8000/v1，并确保网络可达。ClawdBot 会自动复用连接池，无需额外配置。

3.2 Agent 层：定义“怎么用”

位于 clawdbot.json 的 agents.defaults.model.primary 字段，决定默认智能体调用哪个模型：

"agents": { "defaults": { "model": { "primary": "vllm/Qwen3-4B-Instruct-2507" } } }

注意这里的值是 vllm/xxx，而非单纯的 xxx。ClawdBot 使用 provider/model-id 的命名空间格式，实现跨 Provider 调度。你完全可以配置：

"primary": "ollama/llama3:8b", "fallback": "vllm/Qwen3-4B-Instruct-2507"

当 Ollama 服务不可用时，自动降级到 vLLM。

3.3 Web 界面配置：所见即所得

ClawdBot 的 Web 控制台不仅用于聊天，更是配置中心。进入 Config → Models → Providers，你能直观看到：

  • 当前启用的 Provider 列表；
  • 每个 Provider 下已注册的模型；
  • “Test Connection” 按钮可一键验证 API 连通性；
  • “Edit” 按钮支持在线修改 baseUrl、apiKey 等字段，保存后立即生效（无需重启）。

这种“配置即代码 + 配置即界面”的双模态设计，大幅降低了运维门槛。

4. Web 控制台深度体验：不止于聊天框

ClawdBot 的 Web 界面（Gradio 构建）表面简洁，实则功能密集。我们聚焦三个最易被忽略但极具实用价值的功能模块。

4.1 Workspace：你的专属知识沙盒

左侧导航栏点击 Workspace，你会看到一个文件管理器视图。这里不是上传附件的地方，而是智能体的工作上下文根目录。

ClawdBot 允许你为每个会话绑定一个 workspace 路径（默认 /app/workspace），该路径下的所有文件（PDF、TXT、Markdown、CSV）都会被自动索引为 RAG 源。你无需手动切分 chunk 或启动向量库——ClawdBot 内置轻量级文本嵌入引擎（基于 sentence-transformers/all-MiniLM-L6-v2），在首次访问时完成静默索引。

例如，你将一份《Python 编程规范.pdf》拖入 workspace，随后在聊天中输入：

“帮我总结这份规范里的函数命名规则”

ClawdBot 会自动检索 PDF 内容，生成结构化回答。整个过程对用户完全透明。

4.2 Logs：可追溯的每一次调用

点击 Logs，你看到的不是滚动日志，而是一张结构化事件表：

TimeSession IDModelInput TokensOutput TokensLatencyStatus
14:32:05s-8a3f...vllm/Qwen3-4B128641.2ssuccess

每一行代表一次完整的 LLM 调用。点击某行，可展开原始请求体（含 system prompt、user message）、响应体（含完整 content）、以及底层 vLLM 的 metrics（prefill time、decode time、kv cache usage）。

这对调试非常关键：当你发现某个提示词响应缓慢，可直接对比 prefill time 和 decode time，快速判断是 prompt 过长（prefill 占比高），还是生成阶段卡顿（decode 占比高）。

4.3 Config：真正的“零重启配置”

Config 页面是整个系统的中枢。除模型配置外，还支持：

  • System Settings：调整最大并发数（maxConcurrent）、上下文长度上限（maxContextLength）、会话超时时间；
  • Security：开启“阅后即焚”（自动删除会话历史）、设置设备白名单、禁用特定 Provider；
  • Gateway：修改 WebSocket 端口、启用 TLS、配置反向代理头（X-Forwarded-For）；
  • Custom CSS/JS：支持注入自定义样式与脚本，适配企业内网主题。

所有修改保存后，ClawdBot 会触发热重载：正在运行的会话不受影响，新请求立即应用新配置。

5. 与 MoltBot 的本质差异：两个开源项目的定位分野

文中提到的 MoltBot，虽同为 Telegram 机器人，但与 ClawdBot 在设计哲学上截然不同。这不是功能多寡的比较，而是问题域与抽象层级的根本差异。

维度ClawdBotMoltBot
核心目标提供可嵌入、可编排、可审计的 AI 智能体运行时提供开箱即用、零学习成本的 Telegram 多模态翻译助手
部署形态本地/私有服务器，面向技术用户Docker 一键部署，面向普通 Telegram 用户
能力边界模型无关（支持任意 OpenAI 兼容 API）、通道可扩展（Web/CLI/Telegram/Discord）功能固化（翻译+OCR+天气+汇率），通道仅限 Telegram
配置方式JSON 配置文件 + Web GUI 双模式，支持细粒度参数控制纯环境变量（TG_BOT_TOKEN, WHISPER_MODEL），无运行时配置界面
隐私模型默认不存储消息，所有处理在本地完成，日志可关闭同样强调隐私，但 OCR/Whisper 依赖本地模型，翻译引擎需调用外部 API（LibreTranslate/Google）

简言之：

  • 如果你需要一个“能翻译图片、查汇率、聊天气”的 Telegram 小帮手，MoltBot 是更轻、更快、更省心的选择；
  • 如果你需要一个“能把 Qwen 接入内部 Wiki、让销售用自然语言查 CRM、让客服自动归类工单”的可编程 AI 底座，ClawdBot 是目前少有的、真正面向工程落地的方案。

它们不是竞品，而是互补——你可以用 MoltBot 快速上线一个对外服务，再用 ClawdBot 构建支撑该服务的后台智能体集群。

6. 常见问题与避坑指南

6.1 为什么 clawdbot devices list 返回空？

可能原因有两个：

  • 你尚未在浏览器中访问过 http://localhost:7860，因此没有触发设备注册请求；
  • 你修改了 clawdbot.json 中的 gateway.bind 地址（如改为 0.0.0.0:18780），但未同步更新 Web 前端的网关地址。此时需检查 /app/clawdbot.json 中的 web.gatewayUrl 字段是否匹配。

6.2 模型切换后，Web 界面仍调用旧模型？

ClawdBot 的模型路由策略是“会话级绑定”。当你在 Web 界面中开始一个新对话时，它会读取当前 agents.defaults.model.primary 的值。但已有会话不会自动切换模型。解决方法：

  • 关闭当前聊天窗口，新建一个；
  • 或在 Config → Agents → Defaults 中修改 model.primary，然后点击右上角“Reload Agents”。

6.3 如何在无显示器的服务器上完成设备授权？

无需图形界面。ClawdBot CLI 支持离线生成设备凭证：

# 在服务器上生成一个新设备凭证（不依赖浏览器） clawdbot devices generate --name "headless-server" # 输出类似： # Device ID: d4e5f6a7-b8c9-0123-d4e5-f6a7b8c90123 # Fingerprint: 9b4c7d2e1f6a8c90 # Approval Token: eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9... # 将 Approval Token 复制到本地浏览器访问： # http://localhost:7860/approve?token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9...

7. 总结：ClawdBot 的价值不在“能做什么”，而在“让你决定怎么做”

ClawdBot 的部署过程，本质上是一次对 AI 基础设施自主权的 reclaim。它不承诺“最强性能”或“最多模型”，而是提供一套清晰、稳定、可验证的契约：

  • 你提供硬件，它负责高效调度；
  • 你提供模型，它负责统一接入；
  • 你定义规则，它负责严格执行；
  • 你掌握数据，它绝不越界留存。

从 docker compose up 到 clawdbot devices approve，再到 clawdbot models list 看到绿色的 yes，这条链路上的每一个环节，都是对你技术主权的一次确认。

它不是一个终点，而是一个起点——当你不再被“能不能用”困扰，才能真正开始思考：“我该让它做什么？”

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 ZEEKLOG星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

Read more

论文笔记DiT：Scalable Diffusion Models with Transformers（含transformer的可扩展扩散模型 ）

论文笔记DiT：Scalable Diffusion Models with Transformers（含transformer的可扩展扩散模型 ）

Abstract：     论文的核心思想非常直接：用一个标准的 Transformer 架构替换掉扩散模型中常用的 U-Net 主干网络，并证明这种新架构（称为 DiT, Diffusion Transformer）具有出色的可扩展性（Scalability）。 Background & Motivation：     在论文发表前，Transformer 已经在自然语言处理（BERT, GPT）和计算机视觉（ViT）等领域取得了巨大成功，成为了一种“统一”的架构。然而，在图像生成领域，特别是扩散模型中，大家仍然普遍使用 U-Net。U-Net 因其多尺度特征融合和卷积的局部归纳偏置而被广泛采用。     在深度学习中，一个好的架构应该具备良好的“可扩展性”——即投入更多的计算资源（更大的模型、更多的数据），性能应该会持续稳定地提升。ViT 已经证明了 Transformer 在视觉识别任务上具有这种特性。作者们希望验证 DiT 是否也具备这种优良特性，为未来的生成模型发展指明一条清晰的路径。

5分钟部署Meta-Llama-3-8B-Instruct，vLLM+Open-WebUI打造智能对话应用

5分钟部署Meta-Llama-3-8B-Instruct，vLLM+Open-WebUI打造智能对话应用 1. 快速上手：为什么选择 Meta-Llama-3-8B-Instruct？ 你是否也遇到过这样的问题：想本地跑一个大模型做对话系统，但显存不够、部署复杂、界面难用？今天这篇文章就是为你准备的。 我们聚焦 Meta-Llama-3-8B-Instruct —— 这是 Meta 在 2024 年 4 月推出的中等规模指令微调模型，参数量为 80 亿，专为高质量对话和任务执行优化。它不仅支持 8k 上下文长度，还能在单张消费级显卡（如 RTX 3060）上流畅运行，尤其适合英文场景下的智能助手、代码辅助、内容生成等应用。 更重要的是，通过 vLLM + Open-WebUI 的组合，我们可以实现： * 高性能推理（vLLM 提供 PagedAttention 和连续批处理） * 友好交互界面（Open-WebUI
全网最牛批的前端面试八股文（最全）堪称2025最强！

全网最牛批的前端面试八股文（最全）堪称2025最强！

嗨害嗨 铁铁们 来了奥，秘制前端小面试它不就来了么，铁铁们是不是经常遇到这情况？技术栈整得明明白白，项目经验写得密密麻麻，一到面试官面前直接大脑宕机！面试官问你问题，你说：我不到啊。这好使吗，不好使，那感觉就像老八端着秘制小汉堡站在撤硕门口——进退两难啊！ 所以很多前端铁子们技术不错，但面试时总差一口气。其实原因很简单——面试就像考试，不划重点真的会丢分！（每次准备面试跟高考一样） 我花了一周时间，把今年的八股都整全乎了，这你要是都会了，出去面试那不就是小卡拉米啊，直接给面试官惊鸿一瞥，必须把面试官头发给他拽掉，必须打他脸：往下看！ 前端面试题及八股文完整版： https://github.com/encode-studio-fe/natural_traffic/wiki/scan_material9 💡 核心知识板块（按优先级排序） 1. JavaScript 灵魂拷问 * 作用域链：变量查找的“寻宝游戏” * 闭包：函数的小金库，私房钱存放处

FileSaver.js 3步解决方案：解决前端文件下载的跨浏览器兼容性问题

FileSaver.js 3步解决方案：解决前端文件下载的跨浏览器兼容性问题 【免费下载链接】FileSaver.jsAn HTML5 saveAs() FileSaver implementation 项目地址: https://gitcode.com/gh_mirrors/fi/FileSaver.js 还在为不同浏览器中文件下载功能表现不一而烦恼吗？用户点击下载按钮后，有的浏览器直接保存，有的却在新窗口中打开文件，这种不一致的体验严重影响了产品专业性。FileSaver.js作为HTML5 saveAs()接口的完整实现，通过统一封装Blob对象处理机制，为前端开发者提供了简洁高效的文件下载解决方案。 浏览器兼容性全景图 FileSaver.js采用分层策略处理不同浏览器环境，核心原理是根据浏览器特性自动选择最优下载方案。下面通过表格展示不同浏览器下的适配策略： 浏览器类型核心适配方案最大文件限制特殊处理逻辑现代浏览器使用Blob URL方案2GB+自动回收内存IE 10+使用msSaveOrOpenBlob API600MB无需额外依赖老版本Firefox降级为