利用 Ollama 在 VS Code 中私有化部署 AI 编程助手

3. 创建 Ollama 启动服务，编辑服务配置文件：

sudo vim /etc/systemd/system/ollama.service

在文件中输入以下内容（注意替换 User 和 Group 为你的当前用户名，如 ubuntu 等）：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ubuntu
Group=ubuntu
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=multi-user.target

4. 加载配置并启动服务：

sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

查看服务状态，确认启动成功：sudo systemctl status ollama，出现'active (running)'即为启动成功。Ollama 默认服务地址为服务器端口号的 11434。

三、部署 AI 模型

Ollama 部署模型极其简单，一行命令即可完成模型下载和启动，无需额外配置。

下载并部署模型

Ollama 支持上百款模型，可访问 Ollama 官方模型库 查看所有模型。以下推荐几款常用中文模型，按需选择（模型名称区分大小写）：

部署步骤（以 llama3:8b-instruct-q4_0 为例）

打开终端（Linux/macOS）或 PowerShell（Windows），输入下载命令：

ollama pull llama3:8b-instruct-q4_0

下载速度取决于网络，耐心等待（4.5GB 模型，正常网络约 10-20 分钟）。

下载完成后，启动模型，进入交互模式：

ollama run llama3:8b-instruct-q4_0

启动成功后，终端会出现 >>> 提示符，此时可直接与模型对话（如输入'帮我写一段 Python 快排代码'），输入 /bye 可退出交互模式。

常用 Ollama 命令

ollama --version # 查看 Ollama 版本
ollama list # 查看已安装的所有模型
ollama run 模型名 # 启动模型，进入交互模式
ollama pull 模型名 # 下载模型
ollama rm 模型名 # 删除不需要的模型
ollama prune # 清理未使用的模型（谨慎操作）
ollama show 模型名 --modelfile # 查看模型详细信息

四、VS Code 集成 Ollama

使用 VS Code 插件'Continue'集成 Ollama，步骤简单，适配所有 Ollama 版本，且功能更丰富。

步骤 1：安装 Continue 插件

搜索并安装插件 continue。安装完成后，重启 VS Code，左侧边栏会出现'Continue'图标，说明插件安装成功。

步骤 2：配置插件连接 Ollama

点击 VS Code 左侧边栏的'Continue'图标，弹出插件窗口。新建一个配置文件点击配置按钮。

在配置文件中配置信息后即可在 continue 插件中进行对话（<your-ip> 填写你的 IP 地址）：

# This is an example configuration file
# To learn more, see the full config.yaml reference: https://docs.continue.dev/reference
name: 我的代码大模型配置
version: 1.0.0
schema: v1
enableStreaming: true
models:
  # 你最强的模型：中文 + 代码 + 长上下文 + 不乱说
  - name: Qwen2.5 72B Instruct
    provider: ollama
    model: qwen2.5:72b-instruct
    apiBase: http://<your-ip>:11434
  # 顶级代码补全模型（只适合补全代码，不适合聊天）
  - name: CodeLlama 70B
    provider: ollama
    model: codellama:70b-code-q4_K_M
    apiBase: http://<your-ip>:11434
  # 综合代码强，速度快
  - name: DeepSeek 33B
    provider: ollama
    model: deepseek-coder:33b
    apiBase: http://<your-ip>:11434
  # 轻量快速，日常提问
  - name: Llama3 8B
    provider: ollama
    model: llama3:8b-instruct-q4_0
    apiBase: http://<your-ip>:11434
mcpServers:
  - uses: anthropic/memory-mcp

步骤 3：验证连接

连接完成后，在 Continue 插件的聊天框中输入问题（如'帮我解释一下 Python 的装饰器'），点击发送，若模型能正常返回回复，说明连接成功。

五、VS Code 中的核心场景

集成完成后，Ollama 可全程在 VS Code 中使用，无需切换终端。

1. 代码辅助

• 代码生成：在 Continue 聊天框输入需求（如'写一段 Python 读取 Excel 文件的代码，使用 pandas 库'），模型会生成完整代码，并附带注释。
• 代码调试：将报错的代码复制到聊天框，输入'帮我调试这段代码，解决报错问题'，模型会定位错误并给出修改方案。
• 代码优化：复制已写好的代码，输入'优化这段代码，提升运行效率'，模型会对代码进行重构、简化。

2. 交互式问答

在 Continue 聊天框中，可直接与模型对话，比如：

• 技术问题：'Docker 数据卷和绑定挂载的区别是什么？'
• 语法查询：'JavaScript 中 async/await 的使用场景和注意事项'
• 文档解读：'帮我解读这段 JSON 配置文件的含义'

模型会结合上下文，给出简洁、准确的回答，无需切换浏览器搜索。

3. 快捷操作

• 快捷键唤醒：按 Ctrl+I（Windows/Linux）或 Cmd+I（macOS），可快速调出 Continue 聊天框。
• 代码应用：模型生成代码后，点击代码下方的'Apply Code'（应用代码），可直接将代码插入到当前打开的文件中，无需复制粘贴。

六、常见问题排查

1. Ollama 服务启动失败，提示'Error: ollama server not responding'

• 确认已执行 ollama serve 启动服务，且终端未关闭（前台启动方式）。
• 检查端口 11434 是否被占用：
  • Linux/macOS：输入 lsof -i :11434，查看占用进程，杀死占用进程（kill -9 进程 ID）。
  • Windows：输入 netstat -ano | findstr :11434，找到进程 ID，在任务管理器中结束该进程。
• 重启 Ollama 服务，重新执行 ollama serve。

2. 模型下载缓慢，或下载失败

• 重新配置国内镜像，确保 OLLAMA_MODEL_SERVER 环境变量设置正确，重启终端后再尝试下载。
• 若镜像仍无法解决，更换网络（如手机热点），或使用手动下载模型包。

3. VS Code 插件无法连接 Ollama，提示'连接失败'

• 确认 Ollama 服务已启动，且能通过 curl http://localhost:11434/api/tags 正常访问。
• 检查 VS Code 插件配置，确保选择的模型名称与已安装的模型一致（区分大小写）。
• 重启 VS Code 和 Ollama 服务，重新配置插件连接。

4. 运行模型时，提示'out of memory'（内存不足）

• 更换更小的模型（如将 qwen2.5:7b 换成 phi3:mini），降低内存占用。
• 关闭终端中其他占用内存的进程，释放内存。
• 若有独立显卡，确保已安装对应驱动（NVIDIA 显卡安装 CUDA，AMD 显卡安装 ROCm），启用 GPU 加速。

七、总结

本教程完整覆盖了 Ollama 的全平台安装、AI 模型部署，以及 VS Code 的集成方式。核心优势在于'简单、轻量、无门槛'——无需复杂的环境配置，一行命令部署模型，VS Code 集成后可直接在开发环境中使用本地 AI，既保护数据隐私（本地运行，无需联网上传数据），又能提升开发效率。

后续可根据自己的硬件配置，尝试不同的模型，也可以通过 Ollama 的 API 接口，将本地模型集成到其他开发工具中。如果遇到其他未提及的问题，可参考 Ollama 官方文档（https://github.com/ollama/ollama）。