Apple Silicon 的 M 系列芯片凭借统一内存架构,让本地运行大模型成为可能。本文分享如何在 Mac Mini M4 上从零搭建 Ollama 与 Llama 的运行环境,涵盖从系统准备到依赖安装的完整流程。
一、准备工作
首先确认系统版本,建议 macOS 13.0 以上以保证兼容性。
接着安装 Homebrew 包管理工具,这是 macOS 上最流行的软件安装方式。在终端执行以下命令:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
二、环境配置
1. Python 与虚拟环境
大部分 AI 工具依赖 Python 3.x。请确保版本合适,并创建隔离的虚拟环境:
brew install [email protected]
python3 -m venv ai-env
source ai-env/bin/activate
2. 安装 Ollama
Ollama 支持本地加载多个大模型,配置简单。通过 Homebrew 安装:
brew tap ollama/ollama
brew install ollama
启动服务后,即可开始调用模型。
3. 部署 Llama
Llama 是强大的语言模型框架。克隆官方仓库并安装依赖:
git clone https://github.com/facebookresearch/llama.git
cd llama
python setup.py install
pip install llama-index
完成上述步骤后,基础环境即搭建完毕。后续可根据具体需求进一步调整模型参数或集成其他组件。


