解锁DeepSeek潜能：Docker+Ollama打造本地大模型部署新范式

Ne0inhk

— 6 min read
解锁DeepSeek潜能：Docker+Ollama打造本地大模型部署新范式

🐇明明跟你说过：个人主页

🏅个人专栏：《深度探秘：AI界的007》 🏅

🔖行路有良友，便是天堂🔖

目录

一、引言

1、什么是Docker

2、什么是Ollama

二、准备工作

1、操作系统

2、镜像准备

三、安装

1、安装Docker

2、启动Ollama

3、拉取Deepseek大模型

4、启动Deepseek 

一、引言

1、什么是Docker

Docker：就像一个“打包好的App”

想象一下，你写了一个很棒的程序，在自己的电脑上运行得很好。但当你把它发给别人，可能会遇到各种问题：

  • “这个软件需要 Python 3.8，但我只有 Python 3.6！”
  • “我没有你用的那个库，安装失败了！”
  • “你的程序要跑在 Linux，我的电脑是 Windows！”

💡 Docker 的作用：它就像一个“打包好的 App”，把你的软件、依赖、环境、系统配置等 全部封装到一个“容器” 里，别人拿到这个容器，就能直接运行，而不用关心它内部的细节。

🚀 把 Docker 想象成“集装箱”

传统运输 vs. 集装箱运输

以前（传统部署）：

  • 货物（程序）需要不同的包装方式（运行环境）
  • 货物可能损坏（环境不兼容）
  • 装卸麻烦（程序迁移难）

有了 Docker（容器部署）：

  • 货物装进标准化集装箱（Docker 容器）
  • 不管运到哪里，集装箱里东西不变（程序环境一致）
  • 码头和船只可以直接装卸（轻松部署到不同系统）

Docker 让软件像“集装箱”一样标准化、可移植、易部署！ 🚢

2、什么是Ollama

Ollama 是一个本地运行大语言模型（LLM）的工具，它可以让你 在自己的电脑上直接运行 AI 模型，而不需要连接云端服务器。

💡 简单来说：Ollama 让你像运行普通软件一样，轻松在本地使用 ChatGPT、Llama、Mistral、Gemma 等大语言模型。

🚀 Ollama 的核心特点

  1. 本地运行 🏠
    • 你不需要联网，也不用担心隐私问题，所有计算都在你的电脑上完成。
  2. 支持多种开源模型 📚
    • 可以运行 Llama 3、Mistral、Gemma、Code Llama 等不同的大模型。
  3. 易于安装和使用 🔧
    • 只需要几条命令，就能下载并运行 AI 模型。
  4. 轻量化优化 ⚡
    • 适配 Mac（Apple Silicon）、Linux 和 Windows，支持 GPU 加速，让模型运行更快。
  5. 离线推理 🔒
    • 适合不想依赖 OpenAI API 或其他云端 AI 服务的用户。

二、准备工作

1、操作系统

这里我们使用的操作系统为Centos 7.9，配置为4核8G，大家也可以使用其他的Linux发行版本，或者使用Windows。

2、镜像准备

如果已经安装了Docker，可以提前准备好镜像，ollama/ollama，镜像比较大，拉取会耗一些时间

三、安装

1、安装Docker

1.关闭防火墙

systemctl stop firewalld && systemctl disabled firewalld

2.关闭SELinux

setenforce 0

3.更换yum源

rm -f /etc/yum.repos.d/* curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo yum clean all && yum makecache

4.安装依赖项

yum install -y yum-utils device-mapper-persistent-data lvm2

5. 添加Docker源

yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

 6.安装Docker

yum install docker-ce -y

7.添加Docker镜像加速器

vim /etc/docker/daemon.json # 添加如下内容 { "registry-mirrors": [ "https://docker.m.daocloud.io", "https://noohub.ru", "https://huecker.io", "https://dockerhub.timeweb.cloud", "https://0c105db5188026850f80c001def654a0.mirror.swr.myhuaweicloud.com", "https://5tqw56kt.mirror.aliyuncs.com", "https://docker.1panel.live", "http://mirrors.ustc.edu.cn/", "http://mirror.azure.cn/", "https://hub.rat.dev/", "https://docker.ckyl.me/", "https://docker.chenby.cn", "https://docker.hpcloud.cloud", "https://docker.m.daocloud.io" ] }

8.启动Docker

systemctl start docker

2、启动Ollama

1.启动Ollama容器

docker run -itd -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  • docker run    运行一个新的 Docker 容器
  • -itd    组合多个选项：
    •  ✅ -i（保持标准输入）
    •  ✅ -t（分配终端）
    •  ✅ -d（后台运行容器）
  • -v ollama:/root/.ollama    挂载数据卷，把 ollama 这个 Docker 数据卷 绑定到容器的 /root/.ollama 目录，确保数据持久化（如下载的模型不会丢失）。
  • -p 11434:11434    端口映射，把 宿主机（本机）的 11434 端口 映射到 容器 内部的 11434 端口，这样宿主机可以通过 http://localhost:11434 访问 Ollama 服务。
  • --name ollama    指定 容器名称 为 ollama，方便管理和启动。
  • ollama/ollama    使用的 Docker 镜像，这里是 官方的 Ollama 镜像。

如果是使用GPU运行，则用下面的命令启动

docker run -itd --name ollama --gpus=all -v ollama:/root/.ollama -p 11434:11434 ollama/ollama

 2.查看Ollama容器

docker ps

 

 

3、拉取Deepseek大模型

1.进入到容器中 

docker exec -it ollama /bin/bash

2.拉取模型

ollama pull deepseek-r1:7b

 

 

在官网中，有许多Deepseek的模型，这里主要是演示，所以拉取了一个较小的模型

官网地址：deepseek-r1

 

 

3.查看模型

ollama list

 

 

4、启动Deepseek 

ollama run deepseek-r1:7b

 

 

 💕💕💕每一次的分享都是一次成长的旅程，感谢您的陪伴和关注。希望这些文章能陪伴您走过技术的一段旅程，共同见证成长和进步！😺😺😺



🧨🧨🧨让我们一起在技术的海洋中探索前行，共同书写美好的未来！！！  

Read more

前端异常捕获与统一格式化：从 console.log(error) 到服务端上报

前端异常捕获与统一格式化：从 console.log(error) 到服务端上报

🧑 博主简介：ZEEKLOG博客专家，「历代文学网」（公益文学网，PC端可以访问：https://lidaiwenxue.com/#/?__c=1000，移动端可关注公众号 “ 心海云图 ” 微信小程序搜索“历代文学”）总架构师，首席架构师，也是联合创始人！16年工作经验，精通Java编程，高并发设计，分布式系统架构设计，Springboot和微服务，熟悉Linux，ESXI虚拟化以及云原生Docker和K8s，热衷于探索科技的边界，并将理论知识转化为实际应用。保持对新技术的好奇心，乐于分享所学，希望通过我的实践经历和见解，启发他人的创新思维。在这里，我希望能与志同道合的朋友交流探讨，共同进步，一起在技术的世界里不断学习成长。 🤝商务合作：请搜索或扫码关注微信公众号 “ 心海云图 ” 前端异常捕获与统一格式化：从 console.log(error) 到服务端上报 引言 在前端开发中，异常监控是保证应用稳定性的重要一环。当用户遇到页面白屏、功能不可用等问题时，如果能及时收集到详细的错误信息（包括堆栈、

By Ne0inhk
Flutter for OpenHarmony: Flutter 三方库 sanitize_html 彻底杜绝 XSS 注入风险（鸿蒙 Web 内容安全净化）

Flutter for OpenHarmony: Flutter 三方库 sanitize_html 彻底杜绝 XSS 注入风险（鸿蒙 Web 内容安全净化）

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net 前言 在开发 OpenHarmony 应用时，如果我们需要在 UI 中渲染来自后端的 HTML 内容（例如文章正文、用户评论），或者使用 flutter_html 等库，一个致命的安全风险就是 XSS (跨站脚本攻击)。恶意代码可能会通过 <script> 标签或 onerror 属性在你的 App 内执行非法逻辑。 sanitize_html 是一个轻量级且极高效的 HTML 净化库。它采用白名单机制，能瞬间过滤掉所有不安全的标签和属性，确保你在鸿蒙 App 内渲染的每一行 Web 内容都是绝对安全的。 一、核心防御机制解析 sanitize_html 遵循“默认拒绝”

By Ne0inhk
【AI深究】随机森林（Random Forest）全网最详细全流程详解与案例（附Python代码演示）|集成学习|数学原理、案例流程、代码演示及结果解读|参数与调优、工程启示、单棵决策树的对比、优缺点

【AI深究】随机森林（Random Forest）全网最详细全流程详解与案例（附Python代码演示）|集成学习|数学原理、案例流程、代码演示及结果解读|参数与调优、工程启示、单棵决策树的对比、优缺点

大家好，我是爱酱。本篇将会系统地讲解随机森林（Random Forest）的原理、核心思想、数学表达、算法流程、代码实现与工程应用。内容适合初学者和进阶读者，配合公式和可视化示例。 注：本文章含大量数学算式、详细例子说明及大量代码演示，大量干货，建议先收藏再慢慢观看理解。新频道发展不易，你们的每个赞、收藏跟转发都是我继续分享的动力！ 注：随机森林（Random Forest）与决策树（Decision Tree）息息相关，因此不了解决策树的同学建议先去了解一下，爱酱也有文章深入探讨决策树，这里也给上链接。 传送门： 【AI深究】决策树（Decision Tree）全网最详细全流程详解与案例（附Python代码演示）|数学原理、案例流程、代码演示及结果解读|ID3、C4.5、CART算法|工程启示、分类、回归决策树-ZEEKLOG博客 一、随机森林是什么？

By Ne0inhk

如何用Hunyuan-MT-7B-WEBUI解决民汉翻译难题？

如何用Hunyuan-MT-7B-WEBUI解决民汉翻译难题？ 在新疆、西藏、内蒙古、广西、云南等多民族聚居地区，基层政务、教育、医疗、司法一线每天产生大量需要双向转换的文本：村委公告要译成维吾尔语张贴在社区公告栏，藏语病历需转为汉语供上级医院会诊，哈萨克语政策解读材料要同步生成汉语简明版下发……这些不是“锦上添花”的需求，而是关乎信息可达性、服务公平性与治理有效性的刚性要求。 传统机器翻译工具常在此类场景中失能——要么不支持少数民族语言，要么仅支持单向翻译（汉→民），要么输出生硬拗口、术语错乱、文化失当。而 Hunyuan-MT-7B-WEBUI 的出现，第一次让“高质量、低门槛、可部署”的民汉互译能力真正下沉到县乡一级的技术人员手中。它不是又一个云端API调用接口，而是一套开箱即用、本地运行、无需代码基础的完整推理环境。 更重要的是，它专为真实语境而生：支持藏语、维吾尔语、哈萨克语、蒙古语、彝语五大民族语言与中文之间的双向互译，且全部基于真实平行语料微调，而非简单语言对齐或零样本迁移。这意味着，你输入一句“请于本周五前提交年度帮扶计划表”

By Ne0inhk