跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PythonAI算法

Nanobot 实战:基于 vLLM 部署智能 QQ 聊天机器人

介绍如何使用 Nanobot 结合 vLLM 部署智能 QQ 聊天机器人。首先准备硬件软件环境,包括 Python 3.11+ 及 NVIDIA GPU。接着在云端或本地部署 vLLM 服务以提供大模型推理能力。随后在 QQ 开放平台创建机器人获取配置信息。安装 Nanobot 框架后,修改配置文件连接 vLLM 接口及 QQ 账号凭证。最后启动网关服务即可实现基于大模型的自动回复功能。该方案利用 vLLM 优化推理速度,Nanobot 简化开发流程,适合构建高性能个人 AI 助手。

RedisGeek发布于 2026/4/6更新于 2026/7/2563 浏览
Nanobot 实战:基于 vLLM 部署智能 QQ 聊天机器人

Nanobot 实战:基于 vLLM 部署智能 QQ 聊天机器人

一、前言

在大模型时代,拥有一个个人专属的 AI 助手已经不再是遥不可及的梦想。本文将介绍如何使用 Nanobot 构建一个基于 vLLM 部署的智能 QQ 聊天机器人。

Nanobot 是由香港大学数据科学研究所开发的一款超轻量级 AI 智能体,灵感来自 OpenClaw。它的设计理念是'让 AI 触手可及',通过极简的代码实现强大的功能。Nanobot 的关键特性包括:

  • 超轻量级:仅约 4,000 行核心代理代码,实时代码行数仅为 3,510 行
  • 研究就绪:代码干净易读,易于理解、修改和扩展以用于研究
  • 闪电般快速:最小的占用空间意味着更快的启动、更低的资源使用和更快的迭代
  • 易于使用:一键部署即可使用
  • 扩展性强:支持多种聊天平台接入,包括 QQ、飞书、邮箱等
  • 高度定制:可以根据个人需求自由配置模型和功能

而 vLLM 则是一款专为大模型部署优化的工具,它通过实现 PagedAttention 等技术,大幅提升了大模型的推理速度和并发处理能力。

结合 Nanobot 和 vLLM,我们可以构建一个响应迅速、功能强大的智能 QQ 聊天机器人,让 AI 助手真正融入我们的日常沟通。

二、环境准备

在开始部署之前,我们需要准备一个合适的运行环境。以下是推荐的配置:

2.1 硬件要求

  • CPU:至少 4 核以上
  • 内存:至少 16GB(推荐 32GB 以上)
  • GPU:如果要使用 vLLM 进行本地推理,建议使用 NVIDIA GPU,显存至少 16GB(推荐 24GB 以上)
  • 存储空间:至少 100GB 可用空间(用于存储模型和依赖)

2.2 软件要求

  • 操作系统:Linux(推荐 Ubuntu 20.04+)或 Windows 10/11
  • Python:3.11+(推荐 3.12)
  • Git:用于克隆代码仓库
  • CUDA:如果使用 GPU,需要安装 CUDA 11.7+(推荐 11.8 或 12.4)

三、部署 vLLM 模型

3.1 部署服务

在云环境或本地部署 vLLM 服务。等待服务启动成功。

注意:需要调整 supervisor 启动模型的配置文件命令及脚本:

vim /etc/supervisor/conf.d/tencent_hy.conf

修改后的配置如下:

[program:llm]
command=/opt/miniconda3/bin/vllm serve --served-model-name Qwen3-4B-Instruct-2507 --max-model-len 25000 --gpu_memory_utilization 0.90 --model /usr/local/bin/Qwen3-4B-Instruct-2507 --port 8000 --host 0.0.0.0 --enable-auto-tool-choice --tool-call-parser hermes environment=HOME="/root",USER="root",LOGNAME=,SHELL= user=root autostart= autorestart= redirect_stderr= stdout_logfile = /root/workspace/llm.log
"root"
"/bin/bash"
true
true
true

部署成功的 vLLM 模型服务的地址为端口号替换为 8000。 例如:

http://localhost:8000/v1

3.2 验证 vLLM 服务

测试 vLLM 服务启动是否成功,curl 命令如下:

curl --request POST \
  --url http://localhost:8000/v1/chat/completions \
  --header 'Authorization: Bearer YOUR_API_KEY' \
  --header 'content-type: application/json' \
  --data '{ "model": "Qwen3-4B-Instruct-2507", "messages": [ { "role": "user", "content": "你是谁" } ], "stream": false }'

成功返回 JSON 格式响应。

四、QQ 开放平台新建机器人

4.1 访问 QQ 开放平台

访问 https://q.qq.com/#/apps,注册个人或企业开发者。

4.2 创建机器人

在控制台创建新的机器人应用。

4.3 获取配置信息

进入开发管理,复制 AppID 和 AppSecret。

五、安装 Nanobot

5.1 方式一:通过 pip 安装(推荐)

使用 pip 安装:

pip install nanobot-ai

或使用 uv 工具安装(推荐,速度更快):

uv tool install nanobot-ai

5.2 方式二:通过源码安装

克隆仓库:

git clone https://github.com/HKUDS/nanobot.git

进入目录:

cd nanobot

安装依赖:

pip install -e .

5.3 验证安装

安装完成后,可以通过以下命令验证 Nanobot 是否安装成功:

nanobot --version

如果看到版本信息,则表示安装成功。

六、启动 Nanobot 服务

6.1 初始化 Nanobot

nanobot onboard

6.2 修改配置文件

修改模型配置如下:

注意本地部署的模型:

apiBase : http://localhost:8000/v1

完整配置示例:

{
  "providers": {
    "vllm": {
      "apiKey": "dummy",
      "apiBase": "http://localhost:8000/v1"
    }
  },
  "agents": {
    "defaults": {
      "model": "Qwen3-4B-Instruct-2507",
      "maxTokens": 4096
    }
  }
}

修改 QQ 相关配置如下:

{
  "channels": {
    "qq": {
      "enabled": true,
      "appId": "YOUR_APP_ID",
      "secret": "YOUR_APP_SECRET",
      "allowFrom": []
    }
  }
}

6.3 启动网关服务

nanobot gateway

6.4 向 QQ 机器人提问

启动后,即可在 QQ 中向机器人发送消息进行测试。

七、总结

通过本教程,我们成功构建了一个基于 Nanobot 和 vLLM 的智能 QQ 聊天机器人。这个机器人具有以下特点:

  1. 本地部署:所有计算都在本地完成,保护隐私
  2. 高性能:使用 vLLM 优化推理速度,响应迅速
  3. 功能强大:支持上下文理解、多轮对话、知识库集成等高级功能
  4. 易于扩展:可以根据需要添加新功能和工具

Nanobot 作为一款轻量级的 AI 智能体,为我们提供了一种简单、高效的方式来部署和使用大模型。结合 vLLM 的高性能推理能力和 QQ 的广泛使用,我们可以打造一个真正实用的个人 AI 助手。

附录:相关资源

  • Nanobot GitHub:https://github.com/HKUDS/nanobot
  • vLLM GitHub:https://github.com/vllm-project/vllm
  • Hugging Face 模型库:https://huggingface.co/models

目录

  1. Nanobot 实战:基于 vLLM 部署智能 QQ 聊天机器人
  2. 一、前言
  3. 二、环境准备
  4. 2.1 硬件要求
  5. 2.2 软件要求
  6. 三、部署 vLLM 模型
  7. 3.1 部署服务
  8. 3.2 验证 vLLM 服务
  9. 四、QQ 开放平台新建机器人
  10. 4.1 访问 QQ 开放平台
  11. 4.2 创建机器人
  12. 4.3 获取配置信息
  13. 五、安装 Nanobot
  14. 5.1 方式一:通过 pip 安装(推荐)
  15. 5.2 方式二:通过源码安装
  16. 5.3 验证安装
  17. 六、启动 Nanobot 服务
  18. 6.1 初始化 Nanobot
  19. 6.2 修改配置文件
  20. 6.3 启动网关服务
  21. 6.4 向 QQ 机器人提问
  22. 七、总结
  23. 附录:相关资源
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • Microi 吾码:基于 Spring Boot 的低代码微服务框架
  • 本地部署 Kimi K2 模型指南:llama.cpp、vLLM 与 Docker
  • BMAD 开发实战:掌握 AI 辅助开发完整流程
  • Docker Desktop 中文界面设置指南
  • Python 调用豆包 API 使用指南
  • Python 爬虫实战:爬取彩票历史开奖数据
  • 2026 年 AI 领域十大热点话题深度解析
  • Docker Compose 实践:简单拓扑、数据库代理与 WordPress 博客部署
  • AI 科学家系列论文阅读笔记:搜索推理与多智能体工作流
  • Trae IDE 安装配置及 Java 前端开发实战
  • Visual Studio 配置 C++ OpenCV 环境实战指南
  • Whisper 模型跨平台下载与部署指南
  • OpenAI 一致性模型:加速 AI 图像生成技术解析
  • FPGA Aurora 64B/66B 协议开发与配置实战
  • CentOS 7 安装 MySQL 8.0.45 解决 GPG 密钥不匹配问题
  • Python 学习后如何找工作及就业方向分析
  • GitHub Actions Windows Server 2022 镜像企业级 CI/CD 配置指南
  • OpenClaw 国内 AI 大模型配置教程
  • AI 技术解析:AIGC、RAG、Agent 与 MCP 核心概念梳理
  • Whisper-Large-V3-Turbo:极速多语言语音识别技术

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • curl 转代码

    解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具,curl 转代码在线工具,online