open-webui 高速下载&Docker本地部署集成远程Ollama

open-webui 高速下载&Docker本地部署集成远程Ollama

open-webui 镜像快速高速下载

docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:v0.6.9

https://docker.aityp.com/r/ghcr.io/open-webui/open-webuihttps://docker.aityp.com/r/ghcr.io/open-webui/open-webui

部署教程官网即可

https://docs.openwebui.com/https://docs.openwebui.com/

启动Ollama在另一台机器上,默认启动,对外开放端口11434

打开ip访问限制,以便于其他机器访问

在open-webui的机器上面测试一下链接

curl http://x.x.x.x:11434/api/tags

返回

{"models":[{"name":"deepseek-r1:1.5b","model":"deepseek-r1:1.5b","modified_at":"2025-10-17T11:11:29.4666943+08:00","size":1117322768,"digest":"e0979632db5a88d1a53884cb2a941772d10ff5d055aabaa6801c4e36f3a6c2d7","details":{"parent_model":"","format":"gguf","family":"qwen2","families":["qwen2"],"parameter_size":"1.8B","quantization_level":"Q4_K_M"}},{"name":"shaw/dmeta-embedding-zh:latest","model":"shaw/dmeta-embedding-zh:latest","modified_at":"2025-02-14T10:42:45.1430249+08:00","size":408735076,"digest":"55960d8a3a42ec79bc9004b27e208101999102cddeb17114de9284d2cfc12022","details":{"parent_model":"","format":"gguf","family":"bert","families":["bert"],"parameter_size":"102M","quantization_level":"F32"}},{"name":"llama3.2:1b","model":"llama3.2:1b","modified_at":"2025-02-11T10:14:21.9681641+08:00","size":1321098329,"digest":"baf6a787fdffd633537aa2eb51cfd54cb93ff08e28040095462bb63daf552878","details":{"parent_model":"","format":"gguf","family":"llama","families":["llama"],"parameter_size":"1.2B","quantization_level":"Q8_0"}},{"name":"nomic-embed-text:latest","model":"nomic-embed-text:latest","modified_at":"2025-02-10T09:53:10.7782173+08:00","size":274302450,"digest":"0a109f422b47e3a30ba2b10eca18548e944e8a23073ee3f3e947efcf3c45e59f","details":{"parent_model":"","format":"gguf","family":"nomic-bert","families":["nomic-bert"],"parameter_size":"137M","quantization_level":"F16"}}]}

Docker启动open-webui,命令如下

sudo docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://x.x.x.x:11434 -v open-webui:/app/backend/data --name web --restart always swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:v0.6.9

启动后即可连接到Ollama服务上的模型了

随意切换模型,开始聊天吧

Read more

Secure Boot关闭指南,顺利启动GLM-4.6V-Flash-WEB

Secure Boot关闭指南,顺利启动GLM-4.6V-Flash-WEB 在部署GLM-4.6V-Flash-WEB这类高性能视觉大模型时,你是否遇到过U盘无法启动、系统黑屏、提示“安全启动阻止加载驱动”或“Operating System not found”?这些现象背后,90%以上的情况都指向同一个隐藏开关——Secure Boot(安全启动)。它本是为保护系统免受恶意固件攻击而设的安全机制,却常常成为AI模型便携式部署路上的第一道“隐形墙”。 本文不讲原理堆砌,不列冗长参数,只聚焦一件事:如何快速、准确、无风险地关闭Secure Boot,让微PE启动盘顺利加载,最终在本地浏览器中打开GLM-4.6V-Flash-WEB的网页推理界面。全程无需拆机、不改注册表、不重装系统,小白也能5分钟完成。 1. 为什么Secure Boot会阻止GLM-4.6V-Flash-WEB启动? Secure Boot是UEFI固件的一项强制验证机制,它要求所有启动过程中的代码(包括操作系统引导程序、驱动模块、甚至Docker容器运行时)必须带有微软或OEM厂商的数字签名。而微PE定

为了结合后端而学习前端的学习日志(1)——纯CSS静态卡片案例

为了结合后端而学习前端的学习日志(1)——纯CSS静态卡片案例

前端设计专栏 使用纯CSS创建简洁名片卡片的学习实践 在这篇技术博客中,我将分享我的前端学习过程,如何使用纯HTML和CSS创建一个简洁美观的名片式卡片,就像我博客首页展示的那样。这种卡片设计非常适合作为个人简介、产品展示或团队成员介绍。 源码展示 <!DOCTYPEhtml><htmllang="zh-CN"><head><metacharset="UTF-8"><metaname="viewport"content="width=device-width, initial-scale=1.0"><title>纯CSS名片卡片</title><style&

Web 安全入门:从 OWASP Top 10 到常见漏洞,从零基础入门到精通,收藏这一篇就够了!_web top10

Web 安全入门:从 OWASP Top 10 到常见漏洞,从零基础入门到精通,收藏这一篇就够了!_web top10

Web 安全入门:从 OWASP Top 10 到常见漏洞 解构 Web 安全威胁图谱:从 OWASP Top 10 到典型攻击,筑牢数字防线 在 Web 应用成为业务核心载体的今天,安全漏洞已成为威胁数据隐私、业务稳定的 “隐形炸弹”。从 OWASP Top 10 划定的高危风险,到各类场景化攻击手段,Web 安全攻防的博弈从未停歇。 本文将系统拆解 Web 领域的核心威胁:既覆盖 OWASP Top 10 中的关键风险 —— 如利用 SQL 注入篡改数据库、借 XSS 跨站脚本窃取用户凭证、因敏感信息泄露暴露核心数据、错误安全配置留下的防护缺口,也包含功能级访问缺失导致的越权操作、破坏请求处理逻辑的请求走私;同时深入典型攻击场景 —— 命令执行与文件包含直接突破服务器权限,

Qwen3-VL-WEBUI深度解析|附Instruct/Thinking双模式实战

Qwen3-VL-WEBUI深度解析|附Instruct/Thinking双模式实战 在多模态AI技术快速演进的今天,视觉-语言模型(Vision-Language Model, VLM)已从“能看懂图”迈向“会思考、能操作”的新阶段。阿里推出的 Qwen3-VL-WEBUI 镜像,正是这一趋势下的集大成者——它不仅内置了迄今最强的 Qwen3-VL-4B-Instruct 模型,更通过高度封装的 Web 推理界面,实现了“一键启动、开箱即用”的极致体验。 本文将深入剖析 Qwen3-VL-WEBUI 的核心架构、Instruct 与 Thinking 双模式机制,并结合真实场景代码示例,带你全面掌握其工程化落地能力。 为什么是 Qwen3-VL?重新定义多模态智能边界 传统大模型擅长处理纯文本任务,但在面对现实世界中普遍存在的图文混合内容时往往力不从心:一张产品截图、一段监控视频、一份带图表的财报……这些都需要模型具备真正的“视觉理解+语义推理”双重能力。 而