解锁DeepSeek潜能：Docker+Ollama打造本地大模型部署新范式

Ne0inhk

— 6 min read
解锁DeepSeek潜能：Docker+Ollama打造本地大模型部署新范式

🐇明明跟你说过：个人主页

🏅个人专栏：《深度探秘：AI界的007》 🏅

🔖行路有良友，便是天堂🔖

目录

一、引言

1、什么是Docker

2、什么是Ollama

二、准备工作

1、操作系统

2、镜像准备

三、安装

1、安装Docker

2、启动Ollama

3、拉取Deepseek大模型

4、启动Deepseek 

一、引言

1、什么是Docker

Docker：就像一个“打包好的App”

想象一下，你写了一个很棒的程序，在自己的电脑上运行得很好。但当你把它发给别人，可能会遇到各种问题：

  • “这个软件需要 Python 3.8，但我只有 Python 3.6！”
  • “我没有你用的那个库，安装失败了！”
  • “你的程序要跑在 Linux，我的电脑是 Windows！”

💡 Docker 的作用：它就像一个“打包好的 App”，把你的软件、依赖、环境、系统配置等 全部封装到一个“容器” 里，别人拿到这个容器，就能直接运行，而不用关心它内部的细节。

🚀 把 Docker 想象成“集装箱”

传统运输 vs. 集装箱运输

以前（传统部署）：

  • 货物（程序）需要不同的包装方式（运行环境）
  • 货物可能损坏（环境不兼容）
  • 装卸麻烦（程序迁移难）

有了 Docker（容器部署）：

  • 货物装进标准化集装箱（Docker 容器）
  • 不管运到哪里，集装箱里东西不变（程序环境一致）
  • 码头和船只可以直接装卸（轻松部署到不同系统）

Docker 让软件像“集装箱”一样标准化、可移植、易部署！ 🚢

2、什么是Ollama

Ollama 是一个本地运行大语言模型（LLM）的工具，它可以让你 在自己的电脑上直接运行 AI 模型，而不需要连接云端服务器。

💡 简单来说：Ollama 让你像运行普通软件一样，轻松在本地使用 ChatGPT、Llama、Mistral、Gemma 等大语言模型。

🚀 Ollama 的核心特点

  1. 本地运行 🏠
    • 你不需要联网，也不用担心隐私问题，所有计算都在你的电脑上完成。
  2. 支持多种开源模型 📚
    • 可以运行 Llama 3、Mistral、Gemma、Code Llama 等不同的大模型。
  3. 易于安装和使用 🔧
    • 只需要几条命令，就能下载并运行 AI 模型。
  4. 轻量化优化 ⚡
    • 适配 Mac（Apple Silicon）、Linux 和 Windows，支持 GPU 加速，让模型运行更快。
  5. 离线推理 🔒
    • 适合不想依赖 OpenAI API 或其他云端 AI 服务的用户。

二、准备工作

1、操作系统

这里我们使用的操作系统为Centos 7.9，配置为4核8G，大家也可以使用其他的Linux发行版本，或者使用Windows。

2、镜像准备

如果已经安装了Docker，可以提前准备好镜像，ollama/ollama，镜像比较大，拉取会耗一些时间

三、安装

1、安装Docker

1.关闭防火墙

systemctl stop firewalld && systemctl disabled firewalld

2.关闭SELinux

setenforce 0

3.更换yum源

rm -f /etc/yum.repos.d/* curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo yum clean all && yum makecache

4.安装依赖项

yum install -y yum-utils device-mapper-persistent-data lvm2

5. 添加Docker源

yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

 6.安装Docker

yum install docker-ce -y

7.添加Docker镜像加速器

vim /etc/docker/daemon.json # 添加如下内容 { "registry-mirrors": [ "https://docker.m.daocloud.io", "https://noohub.ru", "https://huecker.io", "https://dockerhub.timeweb.cloud", "https://0c105db5188026850f80c001def654a0.mirror.swr.myhuaweicloud.com", "https://5tqw56kt.mirror.aliyuncs.com", "https://docker.1panel.live", "http://mirrors.ustc.edu.cn/", "http://mirror.azure.cn/", "https://hub.rat.dev/", "https://docker.ckyl.me/", "https://docker.chenby.cn", "https://docker.hpcloud.cloud", "https://docker.m.daocloud.io" ] }

8.启动Docker

systemctl start docker

2、启动Ollama

1.启动Ollama容器

docker run -itd -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  • docker run    运行一个新的 Docker 容器
  • -itd    组合多个选项：
    •  ✅ -i（保持标准输入）
    •  ✅ -t（分配终端）
    •  ✅ -d（后台运行容器）
  • -v ollama:/root/.ollama    挂载数据卷，把 ollama 这个 Docker 数据卷 绑定到容器的 /root/.ollama 目录，确保数据持久化（如下载的模型不会丢失）。
  • -p 11434:11434    端口映射，把 宿主机（本机）的 11434 端口 映射到 容器 内部的 11434 端口，这样宿主机可以通过 http://localhost:11434 访问 Ollama 服务。
  • --name ollama    指定 容器名称 为 ollama，方便管理和启动。
  • ollama/ollama    使用的 Docker 镜像，这里是 官方的 Ollama 镜像。

如果是使用GPU运行，则用下面的命令启动

docker run -itd --name ollama --gpus=all -v ollama:/root/.ollama -p 11434:11434 ollama/ollama

 2.查看Ollama容器

docker ps

 

 

3、拉取Deepseek大模型

1.进入到容器中 

docker exec -it ollama /bin/bash

2.拉取模型

ollama pull deepseek-r1:7b

 

 

在官网中，有许多Deepseek的模型，这里主要是演示，所以拉取了一个较小的模型

官网地址：deepseek-r1

 

 

3.查看模型

ollama list

 

 

4、启动Deepseek 

ollama run deepseek-r1:7b

 

 

 💕💕💕每一次的分享都是一次成长的旅程，感谢您的陪伴和关注。希望这些文章能陪伴您走过技术的一段旅程，共同见证成长和进步！😺😺😺



🧨🧨🧨让我们一起在技术的海洋中探索前行，共同书写美好的未来！！！  

Read more

Flutter 三方库 serial_csv 的鸿蒙化适配指南 - 实现极速的流式 CSV 数据编解码、支持端侧超大规模表格数据的高效序列化实战

Flutter 三方库 serial_csv 的鸿蒙化适配指南 - 实现极速的流式 CSV 数据编解码、支持端侧超大规模表格数据的高效序列化实战

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net Flutter 三方库 serial_csv 的鸿蒙化适配指南 - 实现极速的流式 CSV 数据编解码、支持端侧超大规模表格数据的高效序列化实战 前言 在进行 Flutter for OpenHarmony 的金融报表、工业数据采集或大型列表导出应用开发时，CSV（Comma-Separated Values）由于其通用的文本属性成为首选的数据交换格式。然而，当文件达到数万行甚至更庞大时，常规的字符串拼接会导致内存爆炸。serial_csv 是一款专为极致性能设计的流式解析库。本文将探讨如何在鸿蒙端构建稳健、低开销的大数据处理方案。 一、原原理性解析 / 概念介绍 1.1 基础原理 serial_csv 采用了一种“增量扫描（Incremental Scanning）”算法。在读取时，它不一次性将整个文件加载进内存，而是通过缓冲区轮询，

By Ne0inhk
Flutter for OpenHarmony：universal_io 屏蔽多端差异，实现文件与网络操作的大一统（跨平台标准 IO 库） 深度解析与鸿蒙适配指南

Flutter for OpenHarmony：universal_io 屏蔽多端差异，实现文件与网络操作的大一统（跨平台标准 IO 库） 深度解析与鸿蒙适配指南

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net 前言 在 Flutter 开发中，dart:io 是我们处理文件、网络和 Socket 等底层操作的核心库。然而，当我们的应用需要同时运行在移动端（Android/iOS/OpenHarmony）、Web 端以及桌面端时，直接使用 dart:io 往往会遇到兼容性问题，因为 Web 端并不支持 dart:io。 这时，universal_io 就派上用场了。它提供了一套与 dart:io 几乎完全一致的 API，但底层自动处理了平台差异，使得同一套代码可以在所有平台上运行，包括 OpenHarmony。本文将详细介绍如何在 OpenHarmony 项目中使用 universal_io，并提供实战示例。

By Ne0inhk
Flutter for OpenHarmony: Flutter 三方库 cross_file 为鸿蒙多端提供统一的文件抽象接口（跨平台文件处理基石）

Flutter for OpenHarmony: Flutter 三方库 cross_file 为鸿蒙多端提供统一的文件抽象接口（跨平台文件处理基石）

欢迎加入开源鸿蒙跨平台社区：https://openharmonycrossplatform.ZEEKLOG.net 前言 在 OpenHarmony 应用开发中，文件操作是一个极其常见的需求（如上传图片、读取配置、保存日志）。然而，由于 Flutter 运行在多个平台上，文件在各个环境的表现形式差异巨大： * 在鸿蒙/Android/iOS 上，文件是真实的磁盘路径（path/to/file）。 * 在 Web 浏览器上，文件只是内存中的一串二进制（Blob）。 这就导致你编写的代码由于平台不同而变得支离破碎。cross_file (即著名的 XFile) 解决了这个难题。它提供了一个通用的、不依赖平台的抽象类，让你能用同一套逻辑处理鸿蒙物理文件和 Web 虚拟文件。 一、核心抽象设计解析 cross_file 的核心是 XFile 类。它屏蔽了底层存储的实现细节。

By Ne0inhk

linux/mac/wsl如何使用claude code,并配置免费的硅基流动API?(官方的需要付费订阅)

具体操作： 方式一：一键安装及配置脚本 1. 在终端中运行以下命令： bash -c "$(curl -fsSL https://sf-maas-uat-prod.oss-cn-shanghai.aliyuncs.com/sample/ccsf_v260130.sh)" 切换模型使用目前 Claude Code 并不支持添加多个自定义模型（Custom Model），您可以再次执行上述 1～5 步，选择并更新 ANTHROPIC_MODEL 环境变量的方式切换模型 方式二：手动配置 Claude Code 环境变量（注意，需要先安装claude code,用本文方式一里的命令） 如果你想手动配置 Claude Code 的环境变量，可以在终端中运行下列命令： export ANTHROPIC_

By Ne0inhk