macOS 12.7.6 部署 Ollama 与 Dify 避坑指南
记录了在 macOS 12.7.6 系统下部署 Ollama 本地模型框架与 Dify AI 应用开发平台的操作指南。主要步骤包括关闭系统完整性保护(SIP)、安装 Docker Desktop 及 Compose、配置 Ollama 服务与下载模型、以及调整 Dify 环境配置。文中还提供了离线环境下镜像打包与导入的方法,旨在帮助开发者避免常见兼容性与配置错误,实现本地化 AI 应用的快速搭建。

记录了在 macOS 12.7.6 系统下部署 Ollama 本地模型框架与 Dify AI 应用开发平台的操作指南。主要步骤包括关闭系统完整性保护(SIP)、安装 Docker Desktop 及 Compose、配置 Ollama 服务与下载模型、以及调整 Dify 环境配置。文中还提供了离线环境下镜像打包与导入的方法,旨在帮助开发者避免常见兼容性与配置错误,实现本地化 AI 应用的快速搭建。

Ollama 是一个本地化大语言模型运行框架,支持在个人电脑上运行各类开源 AI 模型(如 Llama、Mistral 等)。Dify 则是一个可视化 AI 应用开发平台,通过图形界面快速构建 AI 工作流。本文记录在macOS 12.7.6系统下部署两者的避坑指南。
| 组件 | 作用 | 必装原因 |
|---|---|---|
| Ollama | 本地模型运行引擎 | 提供 LLM 推理能力 |
| Dify | AI 应用开发平台 | 可视化编排 AI 工作流 |
| Docker | 容器化环境 | 解决依赖冲突问题 |
| Docker-compose | 容器编排工具 | 管理多容器应用 |
参考链接: macOS 开启或关闭 SIP
为什么需要关闭:
macOS 的 SIP 会阻止对系统目录(如/usr/local/bin)的修改,而 Dify 需要在此目录更新关键组件。
操作步骤:
重启后验证状态:
csrutil status # 应显示 System Integrity Protection status: disabled
执行关闭命令:
csrutil disable # 禁用 SIP
sudo reboot # 重启系统
⚠️ 安全提示:完成部署后可重新启用 SIP(
csrutil enable),但需确保所有组件运行稳定
下载地址: 官方下载链接 版本要求: 必须使用 2.1.0.5(40693) 版本,新版 Docker 与 macOS 12 存在兼容性问题 安装后检查:
docker --version # 应输出 Docker version 19.03.5, build 633a0ea
下载地址: v2.38.2 版本 安装命令:
# 替换系统旧版本
sudo cp ~/Downloads/docker-compose-darwin-x86_64 /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
# 验证安装
docker-compose version # 应输出 Docker Compose version v2.38.2
下载地址: 官方 DMG 安装包 安装方式: 双击安装包完成安装
# 允许网络访问(默认只能本地访问)
export OLLAMA_HOST="0.0.0.0:8000"
# 启动服务(会常驻后台)
ollama serve &
验证服务: 浏览器访问 http://localhost:8000 应返回 Ollama 版本信息
# 下载嵌入模型(用于文本向量化)
ollama pull nomic-embed-text:latest
# 下载对话模型(7B 参数版本)
ollama pull deepseek-r1:7b
模型管理技巧:
# 查看已下载模型
ollama list
# 模型保存路径
ls ~/.ollama/models
# 所有模型存储在此目录
💡 离线环境部署: 在网络环境执行
ollama pull下载模型拷贝~/.ollama/models到目标机器设置环境变量:export OLLAMA_MODELS=/path/to/models
为什么需要修改

微信公众号「极客日志」,在微信中扫描左侧二维码关注。展示文案:极客日志 zeeklog
生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online
基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online
将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online
将 HTML 片段转为 GitHub Flavored Markdown,支持标题、列表、链接、代码块与表格等;浏览器内处理,可链接预填。 在线工具,HTML转Markdown在线工具,online