【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

🎼个人主页:【Y小夜】

😎作者简介:一位双非学校的大三学生,编程爱好者,

专注于基础和实战分享,欢迎私信咨询!

🎆入门专栏:🎇【MySQLJavawebRustpython

🎈热门专栏:🎊【SpringbootRedisSpringsecurityDockerAI】 

感谢您的点赞、关注、评论、收藏、是对我最大的认可和支持!❤️

目录

🎈本地部署模型

🎉安装Ollama

🎉安装 Open WebUI

🎊安装Docker

🥞启动 Hyper-v

🥞 安装 WSL(适用于Linux的Windows的子系统):

🥞安装Docker

 🎊Docker 部署 Open WebUI


🎈本地部署模型

🎉安装Ollama

官网:​Ollama

然后进行一下下载

安装完成之后是没有提示的,然后我们需要去测试一下。(这里我是以QWen为例子,大家可以尝试其他的模型)

打开一个终端,然后输入一个命令,进行测试

ollama run qwen 

 现在是正在进行下载,默认是保存在(C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置OLLAMA_MODELS进行修改,然后重启终端,重启 ollama 服务。或者在环境变量中修改OLLAMA_MODELS的位置

setx OLLAMA_MODELS "D:" 

下载完成后,可以进行测试:

查看都安装了什么模型

ollma list命令显示所有安装模型 ollama rm 模型名称 删除指定模型

但这个现在就只可以在终端中使用 ,那么我问现在就搞一个web页面进行交互,增加体验。

🎉安装 Open WebUI

🎊安装Docker

如果你本地已经有了Docker了,那就可以直接看下面的内容。

🥞启动 Hyper-v

但是如果你这里没有Hyper-V,那么恭喜你,博主也没有,博主已经踩过这个坑了。

我们首先在桌面上建立一个文件,命名为Hyper.cmd,然后填入内容

pushd "%~dp0" dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i" del hyper-v.txt Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL

然后使用管理员身份运行这个文件,运行完毕后,重启电脑,再打开,就可以找到Hyper-V了。

🥞 安装 WSL(适用于Linux的Windows的子系统):
wsl --update 

然后进行安装

wsl --install 

 

🥞安装Docker

官网: Windows | Docker Docs

然后进行下载:

然后双击进行安装

这里咱们先不注册,直接进行登录即可

左下角是绿色,就代表运行成功了

 🎊Docker 部署 Open WebUI

打开命令行,然后输入docker

展示内容,说明我们的docker安装成功了

然后开始用docker安装open webUI

然后,安装完成够就可以,打开Docker Desktop,访问http://localhost:3000端口了

然后点击登录网址,

就是你会发现,点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,但是,你可能会出现一个错误,就是找不到你自己安装的模型,这个原因是因为你的ollama没有启动,我们启动一下ollama

然后再重新,加载一下网页,再选择一下模型

提问一下问题,模型进行回答。这样我们本地的模型就部署好了

Read more

YOLO X Layout从部署到集成:Python API封装为微服务接入企业内容中台

YOLO X Layout从部署到集成:Python API封装为微服务接入企业内容中台 1. 这不是普通OCR,是真正理解文档结构的“眼睛” 你有没有遇到过这样的问题:扫描了一堆PDF合同、产品说明书或财务报表,想自动提取其中的表格数据、识别标题层级、定位图片位置,却发现传统OCR只能返回一堆乱序的文字?或者用通用目标检测模型去识别文档元素,结果连“页眉”和“页脚”都分不清? YOLO X Layout就是为解决这类问题而生的。它不是简单的文字识别工具,而是一个专门针对文档版面理解训练的视觉模型——能像人一样“看懂”一页文档里哪些是标题、哪些是正文段落、哪里是表格、哪块是配图、甚至能区分公式和脚注。它不只告诉你“这里有字”,而是回答“这是什么类型的元素,在页面什么位置,和其他元素是什么关系”。 更关键的是,它把这种专业能力打包成了开箱即用的服务:有直观的Web界面,也有标准的HTTP API,还能轻松嵌入到你现有的内容处理流水线里。本文就带你从零开始,把YOLO X Layout真正用起来—

By Ne0inhk
【python】懂车帝字体反爬逐层解密案例(附完整代码)

【python】懂车帝字体反爬逐层解密案例(附完整代码)

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,ZEEKLOG全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,PyQt5和Tkinter桌面应用开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi,flask等框架,云原生k8s,linux,shell脚本等实操经验,网站搭建等分享。 所属的专栏:爬虫副业实战,零基础、进阶教学 景天的主页:景天科技苑 文章目录 * 懂车帝字体反爬解密 * 1.网站介绍 * 2.抓包分析 * 4.抓取数据分析 * 5.字体文件查找 * 6.字体文件查看 * 7.字体文件识别 * 8.字体识别代码编写 * 9.

By Ne0inhk

小白零基础教程:安装 Conda + VSCode 配置 Python 开发环境

小白零基础教程:安装 Conda + VSCode 配置 Python 开发环境 前言 本教程专为电脑小白设计,全程无复杂术语,步骤详细到每一步点击,覆盖 Windows 10/11、macOS 系统(Linux 可参考 macOS 终端操作)。核心目标:安装轻量版 Conda(Miniconda)→ 配置 Conda 环境 → VSCode 关联 Conda 运行 Python,解决「环境冲突」「命令找不到」「解释器选不到」等常见问题。 一、准备工作 1. 操作系统:Windows 10/11(64 位)或 macOS(Intel/

By Ne0inhk

如何轻松将 Python 英文版切换至中文界面

Python 的“英文版”切换到中文界面,主要取决于你指的到底是哪个部分: * Python 解释器 / 命令行:本身没有界面语言概念(一直是英文提示),但错误信息、帮助文档可以看中文版。 * IDLE(Python 自带的编辑器/Shell):默认英文菜单和提示,最常见需要汉化的地方。 * 第三方 IDE(如 PyCharm、VS Code):这些有官方中文支持。 * 官方文档:有完整的中文翻译。 下面按场景给你最简单、有效的切换方法(2026 年最新实用方案)。 1. 最常见需求:把 IDLE 切换成中文界面(推荐方式) 目前(Python 3.9 ~ 3.14)最简单、效果最好的方法是用 pip 安装社区维护的汉化包 idcn。 步骤(1

By Ne0inhk