【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

🎼个人主页:【Y小夜】

😎作者简介:一位双非学校的大三学生,编程爱好者,

专注于基础和实战分享,欢迎私信咨询!

🎆入门专栏:🎇【MySQLJavawebRustpython

🎈热门专栏:🎊【SpringbootRedisSpringsecurityDockerAI】 

感谢您的点赞、关注、评论、收藏、是对我最大的认可和支持!❤️

目录

🎈本地部署模型

🎉安装Ollama

🎉安装 Open WebUI

🎊安装Docker

🥞启动 Hyper-v

🥞 安装 WSL(适用于Linux的Windows的子系统):

🥞安装Docker

 🎊Docker 部署 Open WebUI


🎈本地部署模型

🎉安装Ollama

官网:​Ollama

然后进行一下下载

安装完成之后是没有提示的,然后我们需要去测试一下。(这里我是以QWen为例子,大家可以尝试其他的模型)

打开一个终端,然后输入一个命令,进行测试

ollama run qwen 

 现在是正在进行下载,默认是保存在(C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置OLLAMA_MODELS进行修改,然后重启终端,重启 ollama 服务。或者在环境变量中修改OLLAMA_MODELS的位置

setx OLLAMA_MODELS "D:" 

下载完成后,可以进行测试:

查看都安装了什么模型

ollma list命令显示所有安装模型 ollama rm 模型名称 删除指定模型

但这个现在就只可以在终端中使用 ,那么我问现在就搞一个web页面进行交互,增加体验。

🎉安装 Open WebUI

🎊安装Docker

如果你本地已经有了Docker了,那就可以直接看下面的内容。

🥞启动 Hyper-v

但是如果你这里没有Hyper-V,那么恭喜你,博主也没有,博主已经踩过这个坑了。

我们首先在桌面上建立一个文件,命名为Hyper.cmd,然后填入内容

pushd "%~dp0" dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i" del hyper-v.txt Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL

然后使用管理员身份运行这个文件,运行完毕后,重启电脑,再打开,就可以找到Hyper-V了。

🥞 安装 WSL(适用于Linux的Windows的子系统):
wsl --update 

然后进行安装

wsl --install 

 

🥞安装Docker

官网: Windows | Docker Docs

然后进行下载:

然后双击进行安装

这里咱们先不注册,直接进行登录即可

左下角是绿色,就代表运行成功了

 🎊Docker 部署 Open WebUI

打开命令行,然后输入docker

展示内容,说明我们的docker安装成功了

然后开始用docker安装open webUI

然后,安装完成够就可以,打开Docker Desktop,访问http://localhost:3000端口了

然后点击登录网址,

就是你会发现,点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,但是,你可能会出现一个错误,就是找不到你自己安装的模型,这个原因是因为你的ollama没有启动,我们启动一下ollama

然后再重新,加载一下网页,再选择一下模型

提问一下问题,模型进行回答。这样我们本地的模型就部署好了

Read more

Flutter 组件 flutter_cache_cleaner 适配鸿蒙 HarmonyOS 实战:磁盘空间治理,构建高性能缓存生命周期管理与自动清理架构

Flutter 组件 flutter_cache_cleaner 适配鸿蒙 HarmonyOS 实战:磁盘空间治理,构建高性能缓存生命周期管理与自动清理架构

欢迎加入开源鸿蒙跨平台社区:https://openharmonycrossplatform.ZEEKLOG.net Flutter 组件 flutter_cache_cleaner 适配鸿蒙 HarmonyOS 实战:磁盘空间治理,构建高性能缓存生命周期管理与自动清理架构 前言 在鸿蒙(OpenHarmony)生态迈向多端轻量化运行、涉及海量多媒体缓存及持久化数据治理的背景下,如何实现存储空间的“敏捷回收”,已成为决定应用长效运行稳定性与系统流畅度的核心架构命题。在鸿蒙设备这类强调“超级终端”高效协同、但部分边缘设备(如智能穿戴、车载传感器)存储资源受限的环境下,如果应用依然无节制地堆积网络图片缓存、临时日志及离线数据库快照,由于由于磁盘配额的紧张,极易由于由于“存储空间不足(Disk Low)”导致系统的写保护异常。 我们需要一种能够深度扫描应用沙箱、支持全量/差异化清理且具备“零样板代码”调用的存储治理方案。 flutter_cache_cleaner 为 Flutter 开发者引入了“自动化空间管理”

By Ne0inhk
Spring Cloud 实战攻坚:商品服务核心实现(库存管理 + 缓存设计 + 分布式锁)

Spring Cloud 实战攻坚:商品服务核心实现(库存管理 + 缓存设计 + 分布式锁)

引言         在微服务架构的电商体系中,商品服务是整个业务链路的核心枢纽 —— 它承接前端商品展示、支撑订单服务的库存扣减、联动促销服务的活动商品管控,而其中的库存管理、缓存设计、分布式锁更是决定系统稳定性与高并发能力的关键。很多开发者在落地时,往往会遭遇三大核心痛点:高并发下库存超卖、缓存穿透 / 击穿 / 雪崩导致服务雪崩、分布式环境下并发控制失效,最终导致系统无法支撑大促等高压场景。         本文将手把手带你实现一个企业级 Spring Cloud 商品服务,聚焦三大核心业务:精准库存管理(解决超卖)、高可用缓存设计(抵御缓存三大问题)、分布式锁(保障并发安全)。全文注重实战落地,所有代码示例均可直接复现,同时深入拆解底层原理与设计思路,兼顾深度与实用性,助力你快速搭建能支撑高并发场景的商品服务。 1. 前置认知:商品服务的核心价值与高并发痛点 1.1 核心价值 商品服务作为电商微服务体系的 “基础数据中心”,核心价值体现在三个维度: 1. 数据支撑:提供商品基础信息(名称、价格、规格)、库存数据,为订单、

By Ne0inhk
OpenClaw 配置 Nginx 反向代理完整指南

OpenClaw 配置 Nginx 反向代理完整指南

OpenClaw 配置 Nginx 反向代理完整指南 将 OpenClaw Gateway 安全地暴露到公网,并通过 HTTPS 和登录保护确保访问安全。 前言 OpenClaw 是一个强大的 AI 助手网关,默认情况下它只监听本地回环地址 (127.0.0.1:18789)。如果你想从外部网络访问 Control UI,或者为团队提供安全的访问入口,配置 Nginx 反向代理是最佳实践。 本文将介绍如何: * ✅ 配置 Nginx 反向代理到 OpenClaw * ✅ 启用 HTTPS (Let’s Encrypt SSL 证书) * ✅ 添加 Basic Auth 登录保护 * ✅ 配置 OpenClaw 信任代理模式 环境准备 * 服务器:

By Ne0inhk