【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

🎼个人主页:【Y小夜】

😎作者简介:一位双非学校的大三学生,编程爱好者,

专注于基础和实战分享,欢迎私信咨询!

🎆入门专栏:🎇【MySQLJavawebRustpython

🎈热门专栏:🎊【SpringbootRedisSpringsecurityDockerAI】 

感谢您的点赞、关注、评论、收藏、是对我最大的认可和支持!❤️

目录

🎈本地部署模型

🎉安装Ollama

🎉安装 Open WebUI

🎊安装Docker

🥞启动 Hyper-v

🥞 安装 WSL(适用于Linux的Windows的子系统):

🥞安装Docker

 🎊Docker 部署 Open WebUI


🎈本地部署模型

🎉安装Ollama

官网:​Ollama

然后进行一下下载

安装完成之后是没有提示的,然后我们需要去测试一下。(这里我是以QWen为例子,大家可以尝试其他的模型)

打开一个终端,然后输入一个命令,进行测试

ollama run qwen 

 现在是正在进行下载,默认是保存在(C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置OLLAMA_MODELS进行修改,然后重启终端,重启 ollama 服务。或者在环境变量中修改OLLAMA_MODELS的位置

setx OLLAMA_MODELS "D:" 

下载完成后,可以进行测试:

查看都安装了什么模型

ollma list命令显示所有安装模型 ollama rm 模型名称 删除指定模型

但这个现在就只可以在终端中使用 ,那么我问现在就搞一个web页面进行交互,增加体验。

🎉安装 Open WebUI

🎊安装Docker

如果你本地已经有了Docker了,那就可以直接看下面的内容。

🥞启动 Hyper-v

但是如果你这里没有Hyper-V,那么恭喜你,博主也没有,博主已经踩过这个坑了。

我们首先在桌面上建立一个文件,命名为Hyper.cmd,然后填入内容

pushd "%~dp0" dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i" del hyper-v.txt Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL

然后使用管理员身份运行这个文件,运行完毕后,重启电脑,再打开,就可以找到Hyper-V了。

🥞 安装 WSL(适用于Linux的Windows的子系统):
wsl --update 

然后进行安装

wsl --install 

 

🥞安装Docker

官网: Windows | Docker Docs

然后进行下载:

然后双击进行安装

这里咱们先不注册,直接进行登录即可

左下角是绿色,就代表运行成功了

 🎊Docker 部署 Open WebUI

打开命令行,然后输入docker

展示内容,说明我们的docker安装成功了

然后开始用docker安装open webUI

然后,安装完成够就可以,打开Docker Desktop,访问http://localhost:3000端口了

然后点击登录网址,

就是你会发现,点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,但是,你可能会出现一个错误,就是找不到你自己安装的模型,这个原因是因为你的ollama没有启动,我们启动一下ollama

然后再重新,加载一下网页,再选择一下模型

提问一下问题,模型进行回答。这样我们本地的模型就部署好了

Read more

Windows 下 OpenClaw (小龙虾) 极速部署指南:从零基础到 Web 界面成功运行

🚀 [保姆级教程] Windows 下 OpenClaw (小龙虾) 极速部署指南:从零基础到 Web 界面成功运行 摘要:OpenClaw(开源 AI 代理框架)功能强大但配置项繁多,新手极易在插件配置阶段劝退。本文记录了一次在 Windows 环境下“极简启动”的完整实战过程。我们将采用**“核心优先,插件后置”**的策略,跳过所有非必要的第三方依赖(如 Notion/GitHub),仅配置核心大模型 API(以 Moonshot/Kimi 为例),快速跑通本地服务并验证 Web 控制面板。适合希望快速搭建本地 AI 助手的开发者。 关键词:OpenClaw, AI Agent, Windows 安装, Kimi API, Moonshot,

Java Web 毕业生实习与就业管理系统系统源码-SpringBoot2+Vue3+MyBatis-Plus+MySQL8.0【含文档】

Java Web 毕业生实习与就业管理系统系统源码-SpringBoot2+Vue3+MyBatis-Plus+MySQL8.0【含文档】

摘要 随着高校毕业生数量逐年增加,就业市场竞争日益激烈,传统的就业管理方式已难以满足高效、精准的就业服务需求。高校就业管理部门需要一套智能化、信息化的管理系统,以实现毕业生实习与就业全流程的数字化管理。该系统能够整合毕业生信息、企业招聘需求、实习安排等数据,为学校、企业和学生提供便捷的信息交互平台。通过数据分析与可视化,帮助学校优化就业指导策略,提升毕业生就业质量。关键词:毕业生就业管理、实习管理、信息化系统、数据分析、SpringBoot2。 本系统基于SpringBoot2框架开发,采用前后端分离架构,前端使用Vue3实现动态交互,后端通过MyBatis-Plus高效操作MySQL8.0数据库。系统功能模块包括毕业生信息管理、企业招聘管理、实习过程跟踪、就业数据统计等。管理员可通过后台管理毕业生档案、发布招聘信息;学生端支持简历投递、实习反馈;企业端实现岗位发布、人才筛选。系统还集成权限控制与日志记录,确保数据安全与操作可追溯。关键词:Vue3、MyBatis-Plus、MySQL8.0、权限控制、就业统计。 数据表设计 毕业生信息数据表 毕业生信息数据表存储学生基本资料

新手福音:用快马平台生成windows18-hd19风格页面学前端

作为一名刚接触前端开发的新手,最近我在学习如何实现windows18-hd19风格的页面设计。这种高清界面风格特别适合用来练习现代CSS技巧,特别是毛玻璃效果、动画过渡和交互细节的处理。下面我就分享一下通过InsCode(快马)平台快速实现这个登录页面的过程。 1. 整体布局设计思路 首先需要明确页面的基本结构。windows18-hd19风格的特点是简洁现代,所以采用全屏渐变背景,中间放置一个居中的登录框。登录框使用毛玻璃效果让背景适当模糊,同时添加细微的发光边框提升质感。 2. 背景与毛玻璃效果实现 背景使用CSS的线性渐变实现,从深蓝色过渡到紫色。登录框的毛玻璃效果通过backdrop-filter属性实现,这个属性可以让我们对元素背后的内容应用模糊等滤镜效果。为了兼容性,还需要添加-webkit前缀。 3. 输入框交互细节 输入框获得焦点时的动画效果通过CSS的transition实现。当用户点击输入框时,边框颜色会平滑过渡到高亮状态,同时添加轻微的放大效果提升视觉反馈。这些细节虽然小,但对用户体验很重要。 4. 按钮交互设计 提交按钮的悬停和点击效果分别使用:hov

【DGX Spark 实战】部署 vLLM + Open WebUI 运行 Qwen3-Coder-Next-FP8(CUDA 13.0 兼容版)-修订

【DGX Spark 实战】部署 vLLM + Open WebUI 运行 Qwen3-Coder-Next-FP8(CUDA 13.0 兼容版)-修订

感谢Qwen3-Coder-Next-FP8为本文进行润色,调整,绘制架构图。但是所有的文字及链接经过手工修订。需要SGLang推理框架,移步 【DGX Spark 实战】部署SGLang,千问3.5-27B模型初探 我们已严格按您提供的原始内容(包括 CUDA_VERSION=130、CPU_ARCH=aarch64、路径 ~/vllm、用户 admin 等)进行全量修正与标准化,确保所有命令与 DGX Spark 实际环境一致。 摘要本文详细记录在 NVIDIA DGX Spark(Grace Blackwell 架构)上部署 vLLM 推理服务并接入 Open WebUI 的完整流程,包含 FlashAttention 编译、vLLM wheel 安装、Qwen3-Coder-Next-FP8