【VLM】Qwen3-VL模型架构和训练流程

【VLM】Qwen3-VL模型架构和训练流程

note * Qwen3-VL模型,提供稠密型(2B/4B/8B/32B)和混合专家型(30B-A3B/235B-A22B)两种变体。通过集成高质量的多元模态数据迭代和架构创新(如增强的交错MRoPE、DeepStack视觉-语言对齐和基于文本的时间对齐) * 其原生支持256K token的交错序列,使其能够在长复杂文档、图像序列和视频上进行稳健的推理,特别适用于现实世界应用中高保真跨模态理解的需求。Qwen3-VL系列的密集和MoE变体确保了在不同延迟和质量要求下的灵活部署,后训练策略包括非思考模式和思考模式,进一步提升了模型的应用范围。 * 数据过滤方面,去除噪声、低对齐样本,确保数据质量与多样性。 * 模型架构方面,使用DeepStack 跨层融合,提取视觉编码器多中间层特征,通过轻量残差连接注入 LLM 对应层,强化视觉-语言对齐,保留从低级到高级的丰富视觉信息。 * RoPE旋转位置编码的高低频含义: * 低频:转得慢,擅长远距离位置区分(长序列、大图、长视频等) * 高频:转得快,位置稍微一变,角度就剧变,擅长近距离精细区分(小区域、局部细

By Ne0inhk
Docker 安装 OpenClaw 报错排查:如何解决Gateway auth is set to token, but no token is configured``Missing config

Docker 安装 OpenClaw 报错排查:如何解决Gateway auth is set to token, but no token is configured``Missing config

Docker 安装 OpenClaw 报错排查:如何解决Gateway auth is set to token, but no token is configured``Missing config. Run openclaw setup``control ui requires HTTPS or localhost``Proxy headers detected from untrusted address 按错误关键词 Ctrl+F 秒搜定位,建议收藏备用! 文章目录 * Docker 安装 OpenClaw 报错排查:如何解决`Gateway auth is set to token, but

By Ne0inhk
SpringAI 大模型应用开发篇-SpringAI 项目的新手入门知识

SpringAI 大模型应用开发篇-SpringAI 项目的新手入门知识

🔥博客主页: 【小扳_-ZEEKLOG博客】 ❤感谢大家点赞👍收藏⭐评论✍ 文章目录         1.0 SpringAI 概述         1.1 大模型的使用         2.0 SpringAI 新手入门         2.1 配置 pom.xml 文件         2.2 配置 application.yaml 文件         2.3 配置 ChatClient         2.4 同步调用         2.5 流式调用         2.6 System 设定         2.7 日志功能         2.8 会话记忆功能

By Ne0inhk

Latest

Flutter 三方库 hive_ce_generator 无脑极速的 NoSQL 大数据对象存盘生成基石(适配鸿蒙 HarmonyOS Next ohos)

Flutter 三方库 hive_ce_generator 无脑极速的 NoSQL 大数据对象存盘生成基石(适配鸿蒙 HarmonyOS Next ohos)

欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.ZEEKLOG.net 前言 在鸿蒙(OpenHarmony)应用开发中,处理复杂的数据持久化是一个常见的挑战。如果手动将数据对象映射到 SQLite 并编写复杂的迁移逻辑,开发效率将大打折扣。 Hive 是一个高性能的键值对数据库,特别适用于移动端。而 hive_ce_generator 是 Hive 的代码自动生成工具。它可以根据类定义的注解,自动生成对象适配代码(TypeAdapter),实现高效的序列化与反序列化,极大减少了手动操作导致的错误。 一、原理解析 / 概念介绍 1.1 基础概念 hive_ce_generator 是一个构建工具。当你在数据模型类(如 Chat 对象)上添加注解后,它会生成专门的 .g.dart 适配器文件。这些生成的方法比手动映射更高效且类型更安全。 添加

By Ne0inhk
Flutter 三方库 m_list 的鸿蒙化适配指南 - 实现具备高阶谓词过滤与异步分片的增强列表处理、支持端侧集合数据的高效变换与分布式序列化实战

Flutter 三方库 m_list 的鸿蒙化适配指南 - 实现具备高阶谓词过滤与异步分片的增强列表处理、支持端侧集合数据的高效变换与分布式序列化实战

欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.ZEEKLOG.net Flutter 三方库 m_list 的鸿蒙化适配指南 - 实现具备高阶谓词过滤与异步分片的增强列表处理、支持端侧集合数据的高效变换与分布式序列化实战 前言 在进行 Flutter for OpenHarmony 的大规模数据处理、商品列表分析或复杂的日志检索应用开发时,原生 Dart 的 List 虽然提供了基础的集合操作,但在处理分页加载、深度克隆、频率统计以及复杂的并集/交集运算时,代码往往会变得碎片化。m_list 是一款专为高效列表操作设计的增强库。本文将探讨如何在鸿蒙端构建极致、清爽的集合处理模型。 一、原直观解析 / 概念介绍 1.1 基础原理 m_list 建立在一套强大的“谓词逻辑(Predicate Logic)”和“链式变换”之上。

By Ne0inhk
构建基于Go语言的高性能命令行AI对话客户端:从环境部署到核心实现

构建基于Go语言的高性能命令行AI对话客户端:从环境部署到核心实现

前言 在现代软件开发领域,Go语言凭借其卓越的并发处理能力、静态类型安全以及高效的编译速度,已成为构建命令行工具(CLI)的首选语言之一。本文将详细阐述如何在Ubuntu Linux环境下部署Go开发环境,并结合蓝耘(Lanyun)提供的DeepSeek大模型API,手写一个支持多轮对话、上下文记忆的智能终端聊天工具。 一、 基础运行环境的准备与构建 任何上层应用的稳健运行都离不开坚实的底层系统支持。本次部署的目标环境为Ubuntu LTS系列(20.04/22.04/24.04),这些长期支持版本保证了系统库的稳定性与安全性。硬件层面,建议配置至少1GB的内存与5GB的磁盘空间,以满足编译器运行及依赖包缓存的需求。 1. 系统包索引更新与系统升级 在进行任何开发工具安装之前,首要任务是确保操作系统的软件包索引与现有软件处于最新状态。这不仅能修复已知的安全漏洞,还能避免因依赖库版本过旧导致的编译错误。 执行系统更新操作: sudoapt update &&sudoapt upgrade -y 该指令分为两部分:apt update 用于从软件源服务器获取最新的软件包列

By Ne0inhk
Flutter for OpenHarmony: Flutter 三方库 http_interceptor 让官方 http 请求具备全链路拦截能力(网络层架构增强)

Flutter for OpenHarmony: Flutter 三方库 http_interceptor 让官方 http 请求具备全链路拦截能力(网络层架构增强)

欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.ZEEKLOG.net 前言 在进行 OpenHarmony 应用开发时,很多开发者喜欢直接使用官方提供的 http 软件包,因其小巧且兼容性极佳。然而,官方库的一个痛点是:它缺乏原生的拦截器(Interceptor)机制。当我们需要为所有请求统一添加 Authorization Header,或者需要全局捕获 401 错误码时,不得不对每个请求函数进行手动封装。 http_interceptor 的出现完美解决了这个问题。它通过 AOP(切面)的思想,在不破坏官方库原有接口的前提下,为你的鸿蒙网络请求链路增加了强大的“前哨”和“后哨”,是构建标准化鸿蒙网络层的关键插件。 一、请求/响应拦截器链模型 http_interceptor 在请求发出前和响应返回后建立了两道关卡。 鸿蒙 App 业务调用 Request Interceptor (注入

By Ne0inhk
【Spring】Spring事务和事务传播机制

【Spring】Spring事务和事务传播机制

🎬 那我掉的头发算什么:个人主页 🔥 个人专栏: 《javaSE》《数据结构》《数据库》《javaEE》 ⛺️待到苦尽甘来日 文章目录 * 事务三连 * 什么是事务 * 为什么要有事务 * 事务的操作 * Spring中事务的实现 * 准备工作 * Spring编程事务 * Spring 声明式事务 @Transactional * @Transactional详解 * rollbackFor * 事务隔离级别 * Mysql事务隔离级别 * Spring事务隔离级别 * Spring事务传播机制 * 总结 事务三连 什么是事务 事务是⼀组操作的集合, 是⼀个不可分割的操作. 事务会把所有的操作作为⼀个整体, ⼀起向数据库提交或者是撤销操作请求. 所以这组操作要么同时成功, 要么同时失败. 为什么要有事务 我们在进行程序开发时,也会有事务的需求。 比如转账操作: 第一步:A 账户 -100 元。 第二步:B 账户 +100

By Ne0inhk
构建基于 Rust 与 GLM-5 的高性能 AI 翻译 CLI 工具:从环境搭建到核心实现全解析

构建基于 Rust 与 GLM-5 的高性能 AI 翻译 CLI 工具:从环境搭建到核心实现全解析

前言 随着大语言模型(LLM)能力的飞速提升,将 AI 能力集成到终端命令行工具(CLI)中已成为提升开发效率的重要手段。Rust 语言凭借其内存安全、零成本抽象以及极其高效的异步运行时,成为构建此类高性能网络 IO 密集型应用的首选。本文将深度剖析如何使用 Rust 语言,结合智谱 AI 的 GLM-5 模型,从零构建一个支持流式输出、多语言切换及文件批处理的 AI 翻译引擎。 本文将涵盖环境配置、依赖管理、异步网络编程、流式数据处理(SSE)、命令行参数解析以及最终的二进制发布优化。 第一部分:Rust 开发环境的系统级构建 在涉足 Rust 编程之前,必须确保底层操作系统具备必要的构建工具链。Rust 虽然拥有独立的包管理器,但在链接阶段依赖于系统的 C 语言编译器和链接器,尤其是在涉及网络库(如 reqwest 依赖的 OpenSSL)

By Ne0inhk

【保姆级教程】MySQL 5.7 彻底卸载与重新安装全流程(附常见问题解决)

废话不多说,上实操!!! 一、彻底卸载旧版本MySQL(核心步骤) 彻底卸载是避免安装冲突的关键,请按顺序执行以下操作: 1. 停止所有MySQL服务 终止MySQL进程,防止文件占用: * 打开「服务」窗口:按 Win + R 输入 services.msc 回车。 * 找到含「MySQL」的服务(如 MySQL57),右键「停止」。 2. 卸载MySQL程序组件 移除所有安装的程序: * 打开「程序和功能」:按 Win + R 输入 appwiz.cpl 回车。 * 卸载所有含「MySQL」的组件(如 MySQL Server 5.7、MySQL Workbench)

By Ne0inhk
Spring Boot 数据缓存与性能优化

Spring Boot 数据缓存与性能优化

Spring Boot 数据缓存与性能优化 23.1 学习目标与重点提示 学习目标:掌握Spring Boot数据缓存与性能优化的核心概念与使用方法,包括数据缓存的定义与特点、Spring Boot与数据缓存的集成、Spring Boot与数据缓存的配置、Spring Boot与数据缓存的基本方法、Spring Boot的实际应用场景,学会在实际开发中处理数据缓存与性能优化问题。 重点:数据缓存的定义与特点、Spring Boot与数据缓存的集成、Spring Boot与数据缓存的配置、Spring Boot与数据缓存的基本方法、Spring Boot的实际应用场景。 23.2 数据缓存概述 数据缓存是Java开发中的重要组件。 23.2.1 数据缓存的定义 定义:数据缓存是一种存储机制,用于将常用数据存储在高速存储设备中,以便快速访问。 作用: * 提高应用程序的性能。 * 减少数据库的访问次数。 * 提高用户体验。 常见的数据缓存: * EhCache:Apache EhCache是一款开源的缓存库。 * Caffeine:

By Ne0inhk
【SpringCloud】Nacos简介 && 安装 && 快速入手 && 负载均衡

【SpringCloud】Nacos简介 && 安装 && 快速入手 && 负载均衡

文章目录 * Ⅰ. Nacos简介 * Ⅱ. Nacos安装 * 一、Windows * ① 解压 * ② 修改为单机模式 * ③ 启动Nacos * 二、Linux * Ⅲ. Nacos快速上手 * 一、服务注册/服务发现 * ① 引入Spring CloudAlibaba依赖 * ② 引入Nacos依赖 * ③ 引入LoadBalance依赖 * 二、配置Nacos服务地址 * 三、远程调用 * 四、启动服务 * Ⅳ. Nacos负载均衡 * 一、服务下线 * 二、权重配置 * ① 配置权重 * ② 开启Nacos负载均衡策略 * ③ 测试权重配置 * 三、同集群优先访问 * ① 给实例配置集群名称 * ② 测试 Ⅰ. Nacos简介 2018年6月,Eureka2.0 宣布闭源(但是1.X版本仍然为活跃项目),同年7月份,阿里 Nacos 宣布开源,并快速成为国内最受关注开源产品。作为 Eure

By Ne0inhk
计算机毕业设计springboot勤工助学管理系统 基于Java Web的大学生勤工俭学服务系统设计与开发 高校学生助学岗位信息化管理平台的设计与实现

计算机毕业设计springboot勤工助学管理系统 基于Java Web的大学生勤工俭学服务系统设计与开发 高校学生助学岗位信息化管理平台的设计与实现

计算机毕业设计springboot勤工助学管理系统g96a9e6t (配套有源码 程序 mysql数据库 论文) 本套源码可以在文本联xi,先看具体系统功能演示视频领取,可分享源码参考。 随着互联网技术的快速发展和高校信息化建设的深入推进,传统的人工管理模式已难以满足日益增长的勤工助学业务需求。目前许多高校仍采用纸质化流程进行岗位申请、考勤记录和工资核算,存在效率低下、信息不透明、数据易丢失等问题。同时,家庭经济困难学生需要通过便捷的渠道获取校内勤工助学机会,用人单位也需要高效的工具管理学生的工作表现和薪酬发放。因此,构建一个集成化、智能化的管理平台,实现从岗位发布、申请审核、考勤管理到工资发放的全流程数字化,对于提升管理效率、保障信息准确性、促进学生成长具有重要意义。 系统功能涵盖用户身份验证、个人信息维护、助学岗位全流程管理、薪资核算与发放、信息发布与展示等核心模块。具体包括用户注册与登录验证、个人资料修改与密码重置、助学岗位信息的发布与多条件检索、学生在线提交岗位申请与简历投递、申请状态的审核与反馈、学生考勤状况的记录与查询、工资条生成与薪资明细管理(含基本工资、加班工资

By Ne0inhk

StructBERT中文情感模型API安全加固:添加JWT认证接入企业内网

StructBERT中文情感模型API安全加固:添加JWT认证接入企业内网 1. 引言 如果你在企业内部部署了一个AI模型服务,比如这个StructBERT中文情感分析模型,你可能会遇到一个很实际的问题:怎么保证只有公司内部的系统能调用这个API,而外部的人无法访问?直接暴露在公网上的API端口,就像把家门钥匙放在门口的地垫下面,谁都能找到。 我最近帮一个客户部署了StructBERT情感分析服务,他们需要把这个服务集成到自己的CRM系统中,用于分析客户反馈的情绪。最初的版本很简单,就是启动服务,然后通过8080端口直接调用。但他们的安全团队提出了明确要求:必须要有身份验证机制,不能谁都能调用。 这就是我们今天要解决的问题——如何给StructBERT的API服务加上JWT(JSON Web Token)认证,让它能够安全地接入企业内网。我会带你一步步实现这个功能,从理解JWT是什么,到具体怎么修改代码,再到怎么在企业环境中使用。 2. 为什么需要API安全加固? 2.1 企业环境的安全需求 在企业内部,AI模型服务通常不是孤立存在的。它需要和其他系统集成,比如:

By Ne0inhk
前端知识点全解析

前端知识点全解析

作为一名前端高级开发人员,面试不仅考察知识点的记忆,更关注对原理的理解、工程化的思考以及解决复杂问题的能力。本文将从 HTML/CSS、JavaScript、浏览器与网络、框架、工程化、性能优化、算法与设计模式等多个维度,系统梳理前端面试中的核心知识点,并提供深入解析及案例,帮助你在面试中展现出真正的技术深度。 1. HTML & CSS 基础 1.1 语义化 HTML 讲解:语义化 HTML 是指使用具有明确含义的标签(如 <header>、<nav>、<article>、<section>)来描述网页结构,而不是单纯使用 <div> 和 <span&

By Ne0inhk