Cherry Studio访问云端大模型

原创 于 2025-12-14 12:21:50 发布 · 277 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

一、功能简介

Cherry Studio基于AI技术打造多元化设计工具，支持快速生成与智能调优，帮助创作者高效产出时尚、现代的视觉方案，激发无限灵感。

🔧 核心功能可能包括：

  1. 一键连接主流大模型 API

    • 支持 OpenAI（GPT）、Anthropic（Claude）、Moonshot、通义千问、文心一言、DeepSeek、Ollama（本地模型）等。
    • 可配置多个 API 密钥，自由切换模型。

  2. 支持本地模型运行（通过 Ollama / LM Studio 兼容）

    • 可调用本地运行的 Llama 3、Qwen、Phi-3、Gemma 等开源模型。
    • 通常基于 Ollama 或 llama.cpp 生态。

  3. 提供聊天界面 + 提示词（Prompt）管理

    • 类似 ChatBox、LM Studio、Jan.ai 的 UI。
    • 支持对话历史、角色预设、模板管理。

  4. 面向开发者/研究者的工作流整合

    • 可能集成代码片段生成、文档问答、RAG（检索增强生成）等功能。
    • 部分版本支持插件或自定义工作流。

  5. 注重隐私与离线使用

    • 强调数据不出本地，适合企业或个人敏感场景。

二、下载使用

下载地址

配置使用连接大模型厂商

选择具体大模型问答使用

大模型——Cherry Studio配置MCP服务全流程解析：让AI自动调用工具处理任务
05-06 688
最近 AI 领域真是隔几天就有一个新热度，随着越来越多的使用 MCP 制作的 Agent 产品出现，MCP 这个新名词也频繁刷屏，有着大火的趋势，那么什么是 MCP 呢？MCP 是一种接口协议，由 AI 大模型公司 Anthropic 在 2024 年 11 月推出，它的全称是 Model Context Protocol，即模型上下文协议！它是连接 API 和大模型的桥梁，通过 MCP，我们可以让 AI 模型能够用一种通用的语言和各种不同的工具与服务进行交流，比如浏览器，Excel 表格，网页截图等等。
【开源AI框架Cherry Studio】基于Cherry Studio的本地AI环境远程访问方案
学习笔记
06-16 1001
【开源AI框架Cherry Studio】基于Cherry Studio与cpolar的本地AI环境远程访问方案
部署本地模型，使用cherry-studio测试本地模型和云端模型
qq_62558682的博客
08-26 879
电脑配置不行的，选择1.5B版本，这个模型有15亿参数，属于最轻量的Deepseek版本，电脑配置好点的，可以选择7b以上的。所以安装可视化聊天客户端 cherry-studio 进行测试；GPU 8GB + 内存 16GB（如 RTX 3070 / 4060 Ti）搜索框里搜索deepseek-r1，选择要安装的模型；首页->设置->模型服务->选中 ollama 来选择我们部署的本地大模型。GPU 10GB + 内存 24GB（如 RTX 3080 10GB）安装完成了就可以测试了；
deepseek本地大模型部署及使用
nccbpm的博客
05-15 1024
在CherryStudio中使用Ollama的主要优势包括：无需依赖云服务，避免了云端API的配额限制和费用问题；所有对话数据保留在本地，确保数据隐私；支持离线使用，即使没有网络连接也能继续与LLM交互；提供高度定制化，用户可以根据需求选择和配置最适合的LLM。环境准备要求为Windows 10操作系统和8G GPU显存。工具下载包括CherryStudio和Ollama，后者简化了本地LLM的下载、安装和运行过程。模型下载和安装配置步骤详细，用户可以根据显存大小选择合适的模型。
【AI大模型】Cherry Studio和Deepseek模型搭建本地知识库+硅基流动API调用+本地ollama模型调用
LeonJin的博客
02-08 3532
构建知识库的技术路径并不难理解，cherry studio给出了很完整的解决方案和工程实现demo从结果完整度来看，deepseek-r1 > deepseek-v3 > deepseek-r1:14b从耗时情况来看，deepseek-r1:14b < deepseek-v3 < deepseek-r1 (不排除云端资源紧张导致耗时增加)基本上可以确认基于推理模型和嵌入模型以及一系列的知识前处理和后处理工具可以搭建出一个本地知识库。
DeepSeek-R1 Ollama部署+Cherry Studio，实现本地大模型知识库
qq_63708623的博客
02-28 1502
本地知识库通常包含企业或机构的私有数据（如内部文档、客户档案、行业术语库等），这些数据涉及商业机密或敏感信息，若依赖云端服务处理，可能面临合规风险或第三方泄露隐患。通过DeepSeek本地化部署，DeepSeek可直接在内部服务器访问知识库，确保数据无需离开本地环境，既符合数据保护法规，又能通过内网隔离降低外部攻击风险。本文将介绍如何通过Ollama实现DeepSeek的本地部署，并结合Cherry Studio，实现本地大模型知识库。
基于 Cherry Studio 部署硅基流动 DeepSeek 大模型：轻松实现本地推理
weixin_58022259的博客
02-07 3365
基于 Cherry Studio 部署硅基流动 DeepSeek 大模型：轻松实现本地推理
Cherry Studio 、anythingllm扫盲
chunmiao3032的专栏
02-13 7028
如果你需要一个功能丰富、支持多种模型和AI助手的工具，Cherry Studio 是一个不错的选择。而如果你更关注文档知识库管理和多用户协作，AnythingLLM 可能更适合你的需求。如果你需要一个功能丰富、回答全面且支持多种模型和文档处理的工具，是一个更好的选择。如果你更关注知识库的管理和文档检索功能，且需要支持多用户和权限管理，可能更适合你的需求。
Cherry Studio大模型部署指南：一键创建本地知识库，解决AI回答笼统与数据安全痛点
lvaolan的博客
11-20 1508
Cherry Studio客户端部署方案解决大模型回答笼统、数据安全担忧和场景记忆问题。教程指导获取DeepSeek和硅基流动API密钥，安装配置Cherry客户端，并测试模型功能。重点介绍如何创建本地知识库，支持多种文档格式，让AI基于本地资料精准回答专业问题，同时支持多模型对比分析，实现安全高效的大模型应用。
精选资源
AI应用新里程碑：Cherry Studio多模型服务平台解析
02-08
通过Cherry Studio，使用者能够在本地或云端轻松运行多种AI模型，在工作、学习和娱乐中受益无穷。它不仅仅涵盖云服务模型支持和网络服务集成的特点，还在本地模型部署、数据处理（如多格式文件支持）、文件管理...
精选资源
DeepSeek等大模型管理神器：Cherry Studio、Chatbox、AnythingLLM，谁才是你的效率加速器？.pdf
02-10
它支持多种主流云端模型如OpenAI、DeepSeek、Gemini等，并集成了Ollama本地部署，实现云端与本地模型的灵活调用。Cherry Studio内置超过300个预配置助手，覆盖写作、编程、设计等众多场景，用户还可以自定义助手角色...
精选资源
AI客户端Cherry Studio：跨平台多模型支持的工作效率提升工具
02-07
Cherry Studio 通过集成多种云端及本地 AI 模型，提供了多样化的AI助手，以及文档处理、数据分析等多种功能，能够覆盖写作创作、编程、教育到企业团队协作等多种应用场景。 适合人群：各类需要利用AI进行文本创建、...
深度学习下载包时可能会遇到的问题及解决方案
m0_50481455的博客
12-09 495
若确实下载安装了CUDA ，但是此时输出的CUDA是否可用为否，应该是torch的版本为cpu版本导致，刚刚的下载包的语句如果总是下载的是cpu版本，我们考虑直接去网站下指定包，再进行安装。CUDA Version表示的是驱动支持的最高 CUDA 版本，去官网下载 CUDA ，我这里是12.2，表示下载的版本最大只能是12.2。然后下载包时，比如本地环境是Python3.9，找包下载时候，3.9要下对应cp39的包。下载好后，执行语句安装。
精品数据分享 | 锂电池数据集（七）同济大学电池数据集
12-11 801
本期继续分享一篇Nature communicationTop论文公开锂离子电池数据，划重点-数据集开源，代码开源！！！
vLLM推理引擎教程4-离线推理功能
benben044的专栏
12-12 550
本文介绍了使用vLLM框架优化推理性能的多种方法。主要内容包括：1）基础文本生成、对话式推理、文本分类和嵌入提取四种任务的基本实现；2）自动前缀缓存功能，通过共享KV缓存加速长上下文处理；3）使用YARN方法扩展模型上下文长度；4）多模态任务处理示例（Whisper语音识别）；5）底层LLMEngine API的使用。文章通过具体代码示例展示了如何设置参数实现各类推理优化，包括温度调节、top-p采样、缓存复用等技巧，适用于文本生成、分类、嵌入等多种NLP任务场景。
观成科技:Zloader木马家族加密流量分析
GCKJ_0824的博客
12-12 515
摘要：Zloader木马最初作为银行木马Zeus的下载器，现被广泛用于勒索软件投递。其采用多种加密通信技术规避检测：1）DGA技术生成随机域名；2）DNS隧道隐藏数据；3）HTTPS加密通信；4）Websocket掩码加密。最新版本通过会话密钥强化DNS隧道加密。观成科技利用AI模型结合TLS指纹检测HTTPS加密流量，持续通过行为分析和机器学习应对加密威胁。研究表明，恶意软件正不断升级流量对抗技术，凸显加密流量检测的重要性。（149字）
宝马，如何建设一座AI汽车工厂？｜产业AI案例
chanyejiawang的博客
12-08 1515
AI汽车时代来袭
Syslog / Flow / Telemetry 的 AI 聚合与异常检测实战（可观测性）
最新发布
oQianYuan的博客
12-12 904
网络设备每天在后台发出巨量的可观测性数据，它们大多数被丢弃、被忽略、被埋没在日志平台里。Syslog、Flow、Telemetry 是三类最常用的基础信号，但它们一直没有在企业里发挥出该有的价值——所谓“看起来都有，出了问题却找不到原因”。过去几年里，我几乎把所有大型网络的事故复盘都做过一遍，最后得出的共同结论是：事故不是因为没有可观测性，而是因为信号太分散、太原始，而人类根本处理不过来。这篇文章的目标很直接：把 Syslog、Flow、Telemetry 三种信号，做成可输入 AI 的高质量特征，进而构建
大模型的监督微调基础详解
AggressiveYu的博客
12-10 1041
在预训练完毕之后，我们的模型已经成为了一个学习完所有知识的学生，但是他缺乏用适当的方式表达知识的能力，还是停留在续写文本的阶段，无法直接回答我们的问题，所以监督微调这个时候就出来了，这个指令微调的作用，就是让模型在预训练的基础上，通过特定的数据和训练，让模型能够更好的回答用户的问题。 预训练一般包括三大要素，网络结构，损失函数，训练数据。指令微调和预训练的方式几乎没有区别，只是训练数据的不同。
Cherry Studio 调用本地部署的大模型
02-21
<think>好的，用户让我介绍一下Cherry Studio如何调用本地部署的大模型。首先，我需要确认Cherry Studio是什么，可能是一个本地化的AI开发工具或者平台。用户可能是在寻找如何在自己的环境中部署大模型，比如LLM，并且通过Cherry Studio来调用它们。 接下来，我需要考虑用户可能的背景。他们可能是开发者或者企业用户，想要在本地运行大模型，可能是出于数据隐私、安全性或网络延迟的考虑。因此，用户的需求可能包括如何安装配置Cherry Studio，如何连接本地模型，以及可能遇到的常见问题。 需要分步骤解释：首先介绍Cherry Studio的基本功能，然后说明本地部署大模型的步骤，包括模型下载、环境配置、接口设置等。可能还需要提到支持的模型框架，比如Hugging Face的Transformers，或者Llama.cpp等。另外，要强调安全性和离线使用的优势，以及性能优化的方法，比如GPU加速。 用户可能还会关心API接口的具体调用方式，比如REST API或Python SDK，以及如何进行测试和调试。可能存在的误区是用户以为本地部署复杂，需要简化步骤说明，让用户有信心去尝试。 还要检查是否有遗漏的信息，比如是否需要特定硬件要求，或者操作系统兼容性。可能需要提醒用户注意模型文件的大小和内存需求，避免运行时出现问题。 最后，总结Cherry Studio的优势，比如用户友好的界面、灵活的配置，以及适合企业的解决方案。确保回答结构清晰，步骤详细，同时语言简洁，避免技术术语过多，让不同技术背景的用户都能理解。</think>Cherry Studio 是一个本地化的大模型（如LLM）开发和部署工具，支持在私有化环境中调用和管理大模型。以下是如何通过 **Cherry Studio 调用本地部署大模型**的关键步骤和介绍： --- ### **1. Cherry Studio 的核心功能** - **本地化部署**：模型和数据完全运行在本地服务器，避免数据外泄，适合金融、医疗等敏感领域。 - **多框架支持**：兼容 Hugging Face Transformers、Llama.cpp、vLLM 等主流模型框架。 - **可视化界面**：提供模型管理、API 调试、监控等功能，降低使用门槛。 - **高性能推理**：支持 GPU 加速、模型量化等技术，优化本地资源利用率。 --- ### **2. 调用本地大模型的步骤** #### **步骤 1：部署大模型** - **选择模型**：下载模型文件（如 Llama3、Qwen、ChatGLM 等），通常为 `.bin` 或 `.gguf` 格式。 - **环境配置**：安装依赖（如 Python、PyTorch/CUDA），通过 Hugging Face 或 Ollama 等工具加载模型。 - **启动模型服务**：将模型封装为 API 服务（如 FastAPI），开放本地端口（如 `http://localhost:8000`）。 #### **步骤 2：配置 Cherry Studio** - **连接本地模型**：在 Cherry Studio 中添加模型，填写 API 地址和认证信息（如 API Key）。 - **设置推理参数**：调整温度（temperature）、最大生成长度（max_tokens）等超参数。 - **测试模型**：通过内置的 Playground 输入文本，实时查看生成效果。 #### **步骤 3：集成到应用** - **API 调用**：通过 RESTful API 或 Python SDK 调用本地模型： ```python import requests response = requests.post( "http://localhost:8000/generate", json={"prompt": "你好，介绍一下上海", "max_tokens": 500} ) print(response.json()["result"]) ``` - **业务对接**：将模型集成到企业内部的聊天机器人、数据分析等场景。 --- ### **3. 优势与适用场景** - **数据安全**：无需依赖 OpenAI 等云端服务，满足 GDPR 或网络安全法要求。 - **定制化**：支持微调（Fine-tuning）本地模型，适配垂直领域需求（如法律、客服）。 - **离线可用**：无网络环境下仍可运行，适合内网或隔离环境。 --- ### **4. 常见问题** - **硬件要求**：大模型需要较高显存（如 7B 模型需 10GB+ GPU），可选用量化版本降低资源消耗。 - **性能优化**：使用 vLLM 加速推理，或通过 TensorRT 编译模型提升吞吐量。 - **错误排查**：检查端口冲突、依赖版本兼容性，查看 Cherry Studio 的日志输出。 -- 通过 Cherry Studio，企业可以高效管理本地大模型，平衡生成式 AI 的能力与数据隐私需求。如果需要具体模型的部署示例（如 Llama3 或通义千问），可以进一步提供细节！
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大道之简

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值