（长期有效）接入第三方 OpenAI 兼容模型到 GitHub Copilot

优质文章学习记录

— 3 min read

目前 GitHub Copilot 仅支持接入国外的几家模型提供商，无法直接调用 OpenAI 兼容的自定义 API 进行扩展。参考相关解决方案，我总结了一下Copilot中接入OpenAI 兼容 API 的方法。
实现方法主要分为两种：

方案一：修改 Copilot Chat 源代码
在模型选择器中新增自定义提供商选项。

方案二：API 兼容适配
将 OpenAI 兼容的自定义 API 虚拟化封装为与 Ollama 兼容的 API（运行期间占用 Ollama 端口），从而利用 Copilot 模型选择器中原生的 Ollama 选项。

方法一（目前存在问题）

具体做法可参考修改Copilot chat插件增加自定义模型提供商


这里只说一下这个方法存在的问题：

  1. 官方开源的Copilot chat插件版本通常滞后于最新版，可能存在未来兼容性问题
  2. 打包过程的npm install环节容易报错，需要多次调试
  3. 重要 当前打包后的Copilot chat插件在VSCode中无法显示模型选择器。虽然原作者指出这是由于插件要求的VSCode最低版本与实际版本不匹配所致，但即便修改了package.json中的vscode版本号，问题依然存在。

方法二（长期有效）

这一方法基于Github上的oai2ollama项目，它通过命令行工具启动一个服务，将OpenAI兼容API封装为Ollama兼容API。特别适合为不支持自定义OpenAI API但支持Ollama的编码代理（如VS Code中的GitHub Copilot）提供自定义模型支持。
这一项目的灵感来源于vscode-copilot GitHub讨论区中关于添加自定义 OpenAI 端点配置（基础 URL 和模型参数）到协同聊天设置的讨论。值得注意的是，官方已采纳该提议，未来Copilot版本可能直接支持第三方模型。
言归正传，具体操作步骤如下：

  1. 安装UV工具
    详细安装教程可参考：Windows系统UV安装及路径配置指南
    • 执行uv tool install进行永久安装
    • 创建批处理文件（双击运行）：

配置VS Code
在Copilot模型选择器中选择"Ollama"，稍候将显示第三方模型列表。

模型选择界面

运行转换程序
在命令行直接执行（无需本地下载项目）：

uvx oai2ollama --api-key your_api_key --base-url provider_base_url

如需长期使用，可选择以下任一方式：

@echo off powershell -NoExit-Command"uvx oai2ollama --api-key your_api_key --base-url provider_base_url"

常见问题：若未显示模型列表，请检查命令行报错信息。多数情况下，在base-url末尾添加/v1即可解决。

Read more

GLM-4v-9b实战指南：用llama.cpp GGUF格式在消费级GPU部署多模态模型

GLM-4v-9b实战指南：用llama.cpp GGUF格式在消费级GPU部署多模态模型 1. 为什么你需要关注GLM-4v-9b 你有没有遇到过这样的场景：一张密密麻麻的财务报表截图发到工作群，大家却没人愿意花十分钟手动抄录数据；或者客户发来一张手机拍的电路板照片，问“这个元件型号是什么”，你只能回个尴尬的微笑；又或者团队正在做竞品分析，需要从几十份PDF产品手册里快速提取图表信息——这些不是小问题，而是每天真实消耗工程师、运营、产品经理大量时间的“视觉理解黑洞”。 过去，这类任务要么靠人工硬啃，要么得调用API付费接口，响应慢、成本高、隐私难保障。直到2024年，智谱AI开源了glm-4v-9b——一个真正能在你自己的RTX 4090上跑起来的90亿参数多模态模型。它不只是一张“能看图说话”的新名片，而是把高分辨率图像理解能力，塞进了一张消费级显卡的显存里。 重点来了：它支持原生1120×1120输入，这意味着你不用再把一张A4扫描件缩成模糊小图上传；它对中文表格、小字号OCR、技术类图表的理解，在公开评测中直接超过了GPT-4-turbo和Claude 3 Opus；
AI编程神器大乱斗：GitHub Copilot、Trae、Cursor谁主沉浮？

AI编程神器大乱斗：GitHub Copilot、Trae、Cursor谁主沉浮？

引言：AI 编程时代的激烈角逐 在数字化浪潮汹涌澎湃的当下，AI 编程工具如璀璨星辰般崛起，正以前所未有的速度重塑软件开发的版图。从初出茅庐的新手开发者，到经验老到的编程大师，都被卷入这场由 AI 驱动的编程变革之中，体验着前所未有的高效与创新。曾经，编写代码是一项极度依赖人工的艰巨任务，开发者们需逐行敲下代码，反复调试，耗费大量时间与精力。而如今，AI 编程工具的横空出世，宛如为开发者们插上了一双翅膀，使得代码编写变得更加轻松、高效。它们不仅能快速生成高质量代码，还能精准定位并修复代码中的错误，成为了开发者不可或缺的得力助手。 在众多令人眼花缭乱的 AI 编程工具中，GitHub Copilot、Trae 和 Cursor 脱颖而出，成为了开发者们关注的焦点。GitHub Copilot，凭借与 GitHub 的深度融合以及强大的代码补全能力，在全球范围内收获了无数开发者的青睐；Trae，依托字节跳动强大的技术实力，为企业级应用开发带来了全新的解决方案；Cursor，则以其独特的对话式交互和强大的代码修改能力，给开发者们带来了焕然一新的编程体验。 那么，
GitHub Awesome Copilot 项目深度解析：社区驱动的 AI 编程助手增强工具库

GitHub Awesome Copilot 项目深度解析：社区驱动的 AI 编程助手增强工具库

概要 GitHub Awesome Copilot 是一个由社区驱动的开源项目，专注于为 GitHub Copilot 提供丰富的自定义增强工具。该项目汇集了全球开发者贡献的指令、提示词、配置和代理，旨在帮助用户最大化利用 GitHub Copilot 的 AI 编程能力。通过提供模块化的自定义组件，该项目将 Copilot 从一个通用的代码生成工具，升级为能够适应特定领域、工作流和最佳实践的智能编程伙伴。随着 AI 编程助手技术的快速发展，此类社区项目在推动工具实用性和普及性方面扮演着关键角色，特别是在个性化、专业化场景的支持上。 整体架构流程 Awesome GitHub Copilot 项目采用模块化、分层式的架构设计，确保各类自定义组件能够独立管理又相互协作。整体架构流程可分为五个核心层次： 1. 资源层（Resource Layer）：作为基础层，包含所有原始的自定义组件文件，如提示词文件（.prompt.md）、指令文件（.instructions.md）

Llama-3.2-3B真实效果：Ollama部署后在低配笔记本稳定生成千字长文

Llama-3.2-3B真实效果：Ollama部署后在低配笔记本稳定生成千字长文 1. 为什么这款3B模型值得你花5分钟试试 你是不是也遇到过这些情况：想用大模型写点东西，但本地显卡太弱跑不动7B模型；云服务按秒计费，写个千字文档怕扣光余额；又或者试了几个轻量模型，结果生成两百字就开始重复、跑题、逻辑断裂？ 这次我拿一台2019款的联想小新Pro（i5-8265U + 8GB内存 + 核显）实测了刚发布的Llama-3.2-3B。没有外接GPU，没改任何系统设置，只靠Ollama默认配置——它真能一口气写出结构完整、段落连贯、不卡顿不崩的千字长文。不是“理论上可以”，而是我连续跑了17次不同主题的生成任务，最短耗时48秒，最长2分13秒，全部一次完成。 这不是参数表里的“支持长上下文”，而是你敲下回车后，看着文字一行行稳稳往下冒的真实体验。下面我就带你从零开始，不装环境、不碰命令行、不查文档，直接用图形界面把这件事做成。 2. 三步上手：不用懂技术也能跑起来 2.1 找到Ollama的模型入口，就像打开一个APP 安装好Ollama后，它会在系统托盘里亮起一个小图标。