一站式开源AI平台Cherry Studio本地部署与远程调用本地大模型

一站式开源AI平台Cherry Studio本地部署与远程调用本地大模型
💝💝💝欢迎来到我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。
推荐:kwan 的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结 java 核心技术,jvm,并发编程 redis,kafka,Spring,微服务等常用开发工具系列:常用的开发工具,IDEA,Mac,Alfred,Git,typora 等数据库系列:详细总结了常用数据库 mysql 技术点,以及工作中遇到的 mysql 问题等新空间代码工作室:提供各种软件服务,承接各种毕业设计,毕业论文等懒人运维系列:总结好用的命令,解放双手不香吗?能用一个命令完成绝不用两个操作数据结构与算法系列:总结数据结构和算法,不同类型针对性训练,提升编程思维,剑指大厂

非常期待和您一起在这个小小的网络世界里共同探索、学习和成长。💝💝💝 ✨✨ 欢迎订阅本专栏 ✨✨

博客目录

前言

本文主要介绍如何在 Windows 系统电脑本地安装开源 AI 客户端 Cherry Studio,并结合 cpolar 内网穿透工具轻松实现随时随地远程调用本地部署的各种 AI 大语言模型,无需公网 IP,也不用准备云服务器那么麻烦。

Cherry Studio 是一款支持多个大语言模型(LLM)服务商的桌面客户端(如 OpenAI、Gemini、Anthropic)以及本地模型(通过 Ollama 等运行),兼容 Windows、Mac 和 Linux 系统。内置 300 多个预配置 AI 助手,用户还可自定义专属助手以满足个性化需求。

Cherry Studio 不仅支持多模型同时对话,还能创建智能体,文生图,AI 翻译,处理多种文件格式(包括文本、图片、PDF 和 Office 文件)。开箱即用,无需配置环境。有了这一个 AI 工具,就相当于拥有了一个包罗万象的高级 AI 助理,节省时间,提高效率。话不多说,下面就来详细介绍一下如何安装与使用!

img

1. 本地安装

本例中使用的是 Windows11 专业版系统,本地已经提前准备好了 DeepSeek-R1 与千问 QWQ-32B 大模型。

如果不知道如何本地部署这两款 AI 大模型,可以查看下面的文章:《千问 QwQ32B 本地部署与远程访问》《Windows 本地部署 deepseek-r1 大模型》

首先,我们访问 Cherry Studio 的 github 主页下载客户端:https://github.com/CherryHQ/cherry-studio/releases

找到 Windows 版本客户端安装程序下载即可:

image-20250321105737238

选择好安装位置后,即可快速安装:

image-20250321105817828
image-20250321105901495

2. 配置模型服务

打开客户端后,可以看到界面非常简洁明了。

image-20250321110051047

2.1 配置在线模型服务

点击左下角的设置,即可进行模型服务配置:

image-20250321110140817

这里我们拿硅基流动的模型服务进行举例,如果你本地没有部署 deepseek 等大模型,只要添加好 API 秘钥就能在 Cherry Studio 客户端中在线使用 deepseek 大模型!如果你没有它的 API 秘钥,点击下方获取秘钥,在跳转的页面注册一个账号就能免费获得你的 API keys:

image-20250321114828835

将这个 Key 复制到 Cherry Studio 客户端中刚才的 API 秘钥框中,确定右上角的开关打开状态即可:

image-20250321114914351

现在点击底部的管理按钮,就能看到已经可以使用这里的几十种大模型了:

image-20250321132900103
image-20250321132916418

比如这里点击加号添加 deepseek-r1-70b 模型:

image-20250321133103897

然后点击客户端左上角的聊天图标,在对话框顶部的模型选择中,就可以看到刚才添加的 70B 模型了:

image-20250321133242065

现在就能在对话框中与 deepseek 在线聊天了:

image-20250321133400256

不过这种使用 API 接口在线调用大模型的方式通常都是根据消耗 tokens 计费,偶尔简单使用还可以,长期或大量使用的话可能需要准备好预算。

2.2 配置本地模型服务

如果你已经在本地服务器中部署了 AI 大模型,那么也可以在 Cherry Studio 客户端中配置本地模型服务,免费与大模型聊天,想用就用。

同样,我们点击 Cherry Studio 左下角的设置,在模型服务中选择 Ollama,打开右上角的开关:

image-20250321134114781

点击管理:

image-20250321134139960

在这里可以看到我们之前在本地已经下载好的千问 qwq-32b 模型和 deepseek-r1:1.5b 模型,点击加号添加即可:

image-20250321134256709

然后回到客户端聊天界面,在对话框顶部的模型选择中,就可以看到刚才添加的本地模型了:

image-20250321134410285

现在就能在对话框中和本地的 qwq-32b 模型聊天了,无需担心额外费用:

image-20250321134615519

2.3 其他功能简单演示

除了使用 Api key 在线使用 AI 大模型和调用本地 AI 大模型聊天,Cherry Studio 还有很多非常好用的功能。

2.3.1 创建智能体

我们可以点击聊天助手下的智能体功能,根据不同的使用场景选择自己需要的智能体模版进行创建:

image-20250321135243959

创建好之后,点击聊天助手,可以看到刚才创建的美文排版智能体,在这个模版界面中,我们可以选择在线大模型或者本地大模型后,在聊天框中提出问题:

image-20250321135606288
2.3.2 AI 文生图

在创建智能体下边,我们还可以使用它来调用 Flux.1 或者 SD 模型来进行文生图:(需要配置提供商 API 秘钥)

image-20250321140008055

在模型选择中可以看到支持多个模型:

image-20250321140045138

除此之外,Cherry Studio 还支持使用 AI 翻译,多种 AI 小程序等实用功能:

image-20250321140156315
image-20250321140225178

点击即可快速使用:

image-20250321140707850

3. 安装内网穿透工具

现在我们已经能在本地使用 Cherry Studio 超多 AI 功能带来的便利,但是如果想实现不在同一网络环境下,也能随时随地在线使用 Cherry Studio 客户端远程调用本地部署的 AI 大模型聊天与办公,那就需要借助 cpolar 内网穿透工具来实现公网访问了!

在上边我们配置本地模型服务时,使用的是在本地安装好的 ollama 接入大模型,想要远程调用大模型,需要进行对 ollama 进行一下环境变量设置。

打开 cmd 终端,执行下面两个命令:

setx OLLAMA_HOST "0.0.0.0"
setx OLLAMA_ORIGINS "*"

然后再为它配置一个公网地址即可解决这个问题:

image-20250321134114781

接下来介绍一下如何安装 cpolar 内网穿透,过程同样非常简单:

首先进入 cpolar 官网:cpolar 官网地址:https://www.cpolar.com

点击免费使用注册一个账号,并下载最新版本的 cpolar:

image-20250307152003085

登录成功后,点击下载 cpolar 到本地并安装(一路默认安装即可)本教程选择下载 Windows 版本。

image-20240319175308664

4. 配置公网地址

cpolar 安装成功后,在浏览器上访问 http://localhost:9200,使用 cpolar 账号登录,登录后即可看到配置界面,结下来在 WebUI 管理界面配置即可。

img

接下来配置一下 本地 ollama 服务 的公网地址:

登录后,点击左侧仪表盘的隧道管理——创建隧道,

  • 隧道名称:ollama(可自定义命名,注意不要与已有的隧道名称重复)
  • 协议:选择 http
  • 本地地址:11434 (本地访问的地址)
  • 域名类型:选择随机域名
  • 地区:选择 China Top
image-20250321142849112

隧道创建成功后,点击左侧的状态——在线隧道列表,查看所生成的公网访问地址,有两种访问方式,一种是 http 和 https:

image-20250321143433388

使用上面的任意一个公网地址,粘贴到 Cherry Studio 客户端的 ollama 模型服务的 API 地址里:

1742539038373

点击管理,即使不在同一网络环境下,也能看到在本地部署的 qwq32b 和 deepseek 模型!

image-20250321143918998

点击添加,即可在公网环境使用其他电脑随时随地远程调用本地内网大模型:

image-20250321144021612
image-20250321144037391

小结

为了方便演示,我们在上边的操作过程中使用 cpolar 生成的 HTTP 公网地址隧道,其公网地址是随机生成的。这种随机地址的优势在于建立速度快,可以立即使用。然而,它的缺点是网址是随机生成,这个地址在 24 小时内会发生随机变化,更适合于临时使用。

如果有长期远程使用 Cherry Studio 远程调用本地 AI 大模型,或者异地访问与使用其他本地部署的服务的需求,但又不想每天重新配置公网地址,还想让公网地址好看又好记并体验更多功能与更快的带宽,那我推荐大家选择使用固定的二级子域名方式来为本地服务配置一个公网地址。

5. 配置固定公网地址

接下来演示如何为本地 ollama 配置固定的 HTTP 公网地址,该地址不会变化,方便分享给别人长期查看你部署的项目,而无需每天重复修改服务器地址。

配置固定 http 端口地址需要将 cpolar 升级到专业版套餐或以上。

登录 cpolar 官网,点击左侧的预留,选择保留二级子域名,设置一个二级子域名名称,点击保留:

image-20250321144407766

保留成功后复制保留成功的二级子域名的名称:csollama,大家也可以设置自己喜欢的名称。

image-20250321144748454

返回 Cpolar web UI 管理界面,点击左侧仪表盘的隧道管理——隧道列表,找到所要配置的隧道:ollama,点击右侧的编辑:

image-20250321144825087

修改隧道信息,将保留成功的二级子域名配置到隧道中

  • 域名类型:选择二级子域名
  • Sub Domain:填写保留成功的二级子域名:csollama

点击更新(注意,点击一次更新即可,不需要重复提交)

image-20250321145203916

更新完成后,打开在线隧道列表,此时可以看到公网地址已经发生变化,地址名称也变成了固定的二级子域名名称的域名:

image-20250321145249020

最后,我们使用上面的任意一个固定公网地址,粘贴到 Cherry Studio 客户端的 ollama 模型服务的 API 地址里:

image-20250321145426347

返回聊天助手界面,同样能看到在本地部署的 qwq32b 和 deepseek 模型,并正常聊天。

image-20250321145819864

远程调用本地 qwq32b 模型使用智能体排版文章也没问题!

image-20250321150344413
image-20250321151646214

总结

通过以上步骤,我们实现了在 Windows 系统电脑本地安装 Cherry Studio 客户端并配置本地 AI 大模型服务,并使用 cpolar 内网穿透工具轻松实现在公网环境中也能使用 Cherry Studio 远程访问本地部署的大模型,并为本地服务配置固定不变的二级子域名公网地址的全部流程。

经过简单测试,Cherry Studio 这款 AI 工具确实效果很惊艳,支持的功能也非常多,而结合内网穿透使用则降低了使用门槛,无需二次部署,提高效率。另外,Cherry Studio 针对个人用户免费,企业用户请联系官方合作。非常期待 Cherry Studio 后续的发展,也感谢您的观看,有任何问题欢迎留言交流。

觉得有用的话点个赞 👍🏻 呗。
❤️❤️❤️本人水平有限,如有纰漏,欢迎各位大佬评论批评指正!😄😄😄

💘💘💘如果觉得这篇文对你有帮助的话,也请给个点赞、收藏下吧,非常感谢!👍 👍 👍

🔥🔥🔥Stay Hungry Stay Foolish 道阻且长,行则将至,让我们一起加油吧!🌙🌙🌙

Read more

Git下载及安装保姆级教程(内附快速下载方法)

Git下载及安装保姆级教程(内附快速下载方法)

一、下载Git 1、Git的下载地址 Git-2.47.1-64-bit https://git-scm.com/downloads 选择相应的操作系统下载,这里给出的是当前最新版本2.47.1,如需下载之前的版本,可在图片显示的红框内,点击Older releases即可。 PS:由于一些原因,Git安装包下载速度较慢,可以复制资源链接到迅雷等第三方下载工具下载或直接下载本文的资源即可 2、等待安装 找到下载的安装包双击进行安装。 二、Git的安装 1、阅读说明 点击Next进行下一步。 2、选择安装路径 默认安装路径为C:\Program Files\Git,如需修改,点击①Browse选择文件夹,无需修改点击②Next进行下一步。 3、选择安装组件 ①为在桌面上显示Git图标,可以勾选。其余默认选项不建议取消勾选,以免安装出现意外问题。如确认无误,点击②

By Ne0inhk
免费无限量API调用 GLM-5、Qwen3.5-398B 使用教程(AtomGit 限时开放)

免费无限量API调用 GLM-5、Qwen3.5-398B 使用教程(AtomGit 限时开放)

免费无限量API调用 GLM-5、Qwen3.5-398B大模型的 使用教程(AtomGit 限时开放) SEO关键词:GLM-5免费、Qwen3.5-398B免费API、AtomGit AI模型、免费大模型API、Qwen3.5接口调用、GLM5接口地址 最近在找一些可以免费调用的大模型 API时,意外发现一个平台开放了限时活动:AtomGit 提供 GLM-5、Qwen3.5 系列模型的免费调用,而且不限量。 https://atomgit.com/setting/points?type=invite&picode=RJFA9V4U&utm_source=ic_p 对于经常做 AI工具开发、自动化脚本、AI应用测试 的开发者来说,这种活动其实不太常见,所以简单记录一下注册和调用的方法,也顺便测试了一下实际情况。

By Ne0inhk

【GitHub项目推荐--OpenAkita:自我进化的开源AI助手框架】⭐⭐⭐

简介 OpenAkita 是一个开源的自我进化AI助手框架,由OpenAkita团队开发并维护。该项目以其独特的“永不放弃”的设计理念而闻名——正如其名所寓意的秋田犬一样,忠诚、可靠且持续学习。与其他AI助手不同,OpenAkita在用户关闭聊天后不会忘记一切,而是能够自主学习新技能、修复自身错误,并记住用户的所有信息。框架支持3分钟快速设置,仅需一个API密钥即可启动,提供8种预设人格、6种即时通讯平台集成,甚至具备发送表情包的能力,为AI助手注入了独特的“灵魂”。 核心价值: * 自我进化:AI助手在用户睡眠时自主学习、记忆巩固和错误修复 * 人格化体验:8种预设人格(女友、管家、Jarvis等)提供沉浸式交互 * 极简部署:桌面应用程序实现3分钟从安装到对话的完整流程 * 开放生态:基于Agent Skills和MCP开放标准,支持一键技能安装 技术定位:OpenAkita填补了传统静态AI助手与动态学习系统之间的空白。它不仅仅是一个对话工具,更是一个能够随时间推移而不断进化的智能伙伴。通过将记忆管理、自我检查和技能生成等能力内置到框架核心,它为开发者提供了一个构

By Ne0inhk

【AI】KIMI2.5---开源榜第一

开源 Kimi 2.5 全景手册(2026 年 1 月版) Moonshot AI 于 2025-12 开源的「多模态 + Agent-Swarm」权重 本文汇总已公开(✅)与仅 API(⚠️)信息,方便一键部署与落地 1. 江湖定位与榜单成绩 基准分数排名(开源)备注LiveBench 2025-1276.4% Pass@1🥇 第 1打平 Claude-4.5-Sonnet,落后 GPT-4.1 约 2ppAgent: BrowseComp78.4🥇 第 1唯一公开「Agent-Swarm」权重Code: SWE-Bench Verified76.8🥇 第

By Ne0inhk