DeepSeek 介绍
DeepSeek（深度求索）是一家专注于实现通用人工智能（AGI）的中国科技公司，致力于通过技术探索与创新，推动智能技术的广泛应用。
公司背景
- 成立时间：2023 年
- 总部：中国杭州
- 使命：通过 AGI 技术提升人类生产力，推动社会进步。
核心技术
- 大语言模型（LLM）：自主研发高性能基座模型（如 DeepSeek-R1），支持长文本理解、复杂推理和多语言处理。
- 多模态 AI：整合文本、图像、语音等多模态数据。
- 搜索增强技术：结合搜索引擎实时数据，提升模型在知识更新与事实准确性上的表现。
应用场景
- 智能客服：自动化应答与客户意图分析。
- 内容生成：营销文案、代码、报告等自动化创作。
- 数据分析：从非结构化数据中提取洞察，辅助决策。
各个 DeepSeek-R 系列模型的硬件需求和适用场景
我的电脑配置可以跑 7b 和 14b 版本。
Ollama
Ollama 是一个开源的 AI 推理框架，专注于模型压缩和部署。它的目标是帮助用户在本地或边缘设备上高效运行大型语言模型（LLM）。
主要特点
- 模型压缩与优化：提供 4-bit 和 8-bit 量化，使大模型能够在低资源环境下运行。
- 高性能推理：能够在本地设备上实现低延迟、高吞吐量的推理。
- 易于部署：提供简洁的命令行界面（CLI），支持 Docker 部署。
安装和使用
国内下载：Ollama 下载
运行模型：
ollama run deepseek-r1:1.5b
启动推理服务：
ollama serve --port 11434
下载模型（以 DeepSeek-R 系列为例）：
ollama pull deepseek-r1:1.5b
打开 cmd 控制台，输入 ollama 可以看到帮助命令。
配置环境变量
OLLAMA_MODELS 是修改 OLLAMA 下载的模型存储位置，默认是在 C 盘。
安装 open-webui
下载和安装 docker desktop
官网地址：Docker Desktop
配置镜像源
"registry-mirrors": [
"https://${阿里云的}.mirror.aliyuncs.com"
