还在本地硬扛大模型?试试 Ollama Cloud,顺便把 OpenCode 也升级了

Ollama Cloud:让大模型触手可及的云端解决方案 Ollama Cloud是一项创新的云端大模型服务,通过将计算负载自动转移到云端,让用户无需高端硬件即可使用强大AI模型。该服务提供包括200亿至6710亿参数的多款大模型,涵盖对话、代码生成等场景。用户可通过命令行或Python/JS API与云端模型交互,保持与本地模型相同的使用体验。还支持直接API访问,便于云端应用集成。Ollama Cloud特别适合教育研究、原型开发、代码辅助和内容创作等场景,其混合架构设计平衡了计算性能和使用便利性。目前处于预览阶段,未来将支持更多模型和功能,推动AI技术普及化 阅读详情

01 引言

还在为本地显存不足、跑不动超大模型而烦恼?Ollama 悄悄上线了 Cloud 模型,让普通电脑也能轻松运行 DeepSeek-V3.1、Qwen3-Coder 等 671B 参数量的巨无霸模型,而且使用方式和本地模型完全一样。

今天我们就来聊聊如何利用 Ollama Cloud 让 AI 辅助编程工具 OpenCode 直接接入云端大模型,体验飞一般的代码生成速度。

02 本地模型痛点

相信很多小伙伴都有过这样的经历:

  • 下载了一个 70B 的模型,结果 ollama run 之后直接报 out of memory;
  • 忍痛买了一张 24GB 显存的显卡,结果跑个 120B 模型依然卡成 PPT;
  • 想用最新的 DeepSeek-V3.1(671B 参数),本地根本不可能……
  • Ollama的安装以及拉取的模型直接让C盘爆红

没有条件的小伙伴本地只能安装一些入参数小的模型,但是本机运行起来依然卡成狗。

如下图,只运行了一个0.8b参数的模型,就打了个招呼,直接将本地的CPU直接拉满,根本不能做其他的工作,只能默默卸载ollama。

我们将逐步解决这些痛点,还你一个高效又节省资源的ollama。

03 Ollama部署

官方给了多平台的部署脚本。

3.1 下载

windows平台安装脚本固然方便,但默认都是安装在C盘,我可不想装到C盘。我还是喜欢ZIP包的方式免安装,想放那里就放那里。

ZIP包在GitHub上:https://github.com/ollama/ollama

选择适合自己系统的版本即可,我这里选择的是ollama-windows-amd64.zip

3.2 自定义部署

解压之后,就是简单的三个文件:

  • lib
  • ollama.exe
  • vc_redist.x64.exe

在当前文件夹内就可以调用ollama的命令启动:ollama serve

启动完成之后,就可以操作ollama了,我们需要新开一个窗口。

配置环境变量

我们需要在任何地方都能够运行ollama的命令,就需要配置环境变量,和配置JDK环境一样。

OLLAMA_HOME=E:\tool\ollama-windows-amd64

再次配置Path路径:

现在就可以在任何地方使用ollama serve启动服务了。

配置模型位置

模型默认的模型存储位置:C:\Users\<你的用户名>\.ollama\models

我们通过配置环境变量的来改变模型位置,在启动日志里面可以看到一个参数:OLLAMA_MODELS

因为这里我改过,所以直接显示改过的地址。

修改模型的位置,同样通过环境变量的方式:

04 Ollama Cloud

我们在Ollama的官网可以看到Cloud这样的标签:

我们看看官方的解释:

官方说明文档:https://docs.ollama.com/cloud

4.1 登录

Ollama 的云端模型需要在 ollama.com 上有一个账户。

要登录或创建账户命令:

ollama signin

运行之后,会给出一个类似下面的连接,我们复制到浏览器注册登录即可。

https://signin.ollama.com/?client_id=client_01JX0QMHD43XH82A6K8B&redirect_uri=https%3A%2F%2Follama.com%2Fauth%2Fcallback&state=Y29ubmVjdD9rZXk9YzNOb0xaFF6RnNXa1JKTVU1VVJUVkJRGRhUXpac1JHVTNTU3RDZWk5UWRGRXhVbGhYUlc4d2JtUlJVVXBKT1U4clNXSmlhMDAmbmFtZT1sb2NhbGhvc3QubG9jYWxkb21haW4%3D&authorization_session_id=FYYX4A39SZ2GMXBZDH

登录完成之后,会出现小羊驼的头像。

4.2 运行云端模型

运行就简单了,直接找到带:cloud,直接运行即可,如:

ollama run minimax-m2.7:cloud

运行非常快,而且不占用本地资源。

保存到本地的大小,也就几KB

更大的模型都可以在本地运行了。

类似的大参数模型均可畅行无阻。

05 升级OpenCode

OpenCode备受大家喜爱,很大原因是因为内置了几个免费的模型并且支持众多大模型提供商。

5.1 配置Ollama Cloud

和我开始想象的不太一样,我以为直接连接本地的11434端口,结果是直接对接Ollama Cloud,它不依赖本地的Ollama运行。

厂商的连接需要Ollama Cloud API密钥。

image-20260324192830608

5.2 获取秘钥

API秘钥需要在之前申请的Ollama账户中获取。

在settings中设置,里面的Device Keys是执行ollama signin认证后自动带入的设置信息。

API key我们直接通过Generate API Key即可。

5.3 配置

将5.2获取的API key复制到5.1里面即可。此时Ollama Cloud下就会自动加载所有的Cloud模型。

5.4 测试

我们随便选一个模型试试是否可用。

非常完美!

06 番外

到这里基本已经结束了,但是本地模型运行的时候,我们每次都会开两个cmd窗口,一个用来执行ollama serve且不能关闭,另一个运行其他命令。

于是我想有一个后台启动的脚本,执行后无视窗口,还想有一个停止的脚本。

启动脚本.bat

@echo off
pushd %~dp0
echo Check if the ollama port [11434] exists....
netstat -ano | findstr ":11434" | findstr "LISTENING"
if %errorlevel% neq 0 (
	echo ollama port [11434] not exists.
	echo use powershell start ollama...
	powershell.exe -command "& {Start-Process -WindowStyle hidden -FilePath ollama serve -RedirectStandardOutput 'ollama.log'}"
	timeout /t 3 /nobreak >nul
)else (
	echo ollama port [11434] exists.
	echo =================================================
    echo =  Ollama is running at http://127.0.0.1:11434  =
	echo =================================================
	pause
	exit /b 0
)


netstat -ano | findstr ":11434" | findstr "LISTENING"
echo %errorlevel%
if %errorlevel% neq 0 (
    echo Failed to start Ollama
) else (
	echo =================================================
    echo =  Ollama is running at http://127.0.0.1:11434  =
	echo =================================================
)
pause

停止脚本.bat

@echo off
set PORT=11434

echo find %PORT% process...

for /f "tokens=5" %%a in ('netstat -aon ^| findstr :%PORT% ^| findstr LISTENING') do (
    set PID=%%a
    goto :found
)

echo not found %PORT% process.
pause
exit /b 0

:found
echo found PID: %PID%

taskkill /F /PID %PID% >nul 2>&1
if %errorlevel% equ 0 (
    echo ollama stoped.
) else (
    echo ollama stop failed,maybe need use admin permissions.
)
pause
Ollama Cloud:云端大模型的无缝接入与高效实践 本文详细介绍了Ollama Cloud云端大模型服务的核心优势与使用实践。通过消除硬件门槛、提供无缝本地开发体验和丰富的模型库,Ollama Cloud让开发者能够高效接入1200亿参数等先进大模型。文章包含从账户设置到代码集成的完整指南,以及性能优化、安全性和成本控制等高级技巧,帮助开发者充分利用云端大模型解决方案。 阅读详情

相关推荐

OpenClaw新手本地部署指南:Ollama Cloud免费额度与飞书接入实战

大模型Agent正从概念走向日常工程实践,其核心价值在于将语言理解能力转化为可执行的任务编排。OpenClaw作为开源Agent框架,承担着连接模型与业务场景的中枢角色,但传统部署常受制于本地算力与繁琐配置。借助Ollama Cloud云端推理服务,开发者无需下载动辄数GB的模型文件,通过API即可获得每周约5次的免费Agent任务额度,大幅降低入门门槛。同时,Cherry Studio提供了图形化的模型配置与调试界面,让API密钥、模型名称、日志排查等环节不再依赖命令行。本文从环境准备、部署流程到飞书、T

weixin_29056701的博客 277

Ollama Cloud 线上模型免费调用教程(2025 最新版)

模式优点缺点本地 Ollama离线、免费、隐私占用显存、下载慢即开即用、无显存占用、接口统一需网络连接、有请求速率限制。

m0_73579990的博客 1万+

Ollama Cloud原理与实战:本地大模型远程调用全指南

Ollama Cloud并非传统云推理服务,而是一种基于WebRTC隧道和反向代理的本地模型远程调度方案,其核心是将本机运行的Ollama服务安全暴露至公网。它不托管模型、不提供算力,仅透传请求与状态,依赖本地GPU推理能力与网络连通性。技术价值在于实现私有化部署下的跨网调用——如Obsidian直连NAS、CI/CD自动化测试、教学免配置分发等场景。本文深入解析其轻量网关架构、四步链路验证法、Qwen2.5等适配模型选型逻辑,以及JWT令牌、模型白名单、iptables三层安全加固实践,覆盖从开发调试到7

weixin_28221501的博客 117

2小时完成本地部署OpenClaw新手友好!Cherry Studio+Ollama Cloud每周可免费使用约5次OpenClaw任务

本文介绍了一种新手友好的OpenClaw本地部署方案,仅需2小时即可完成。通过CherryStudio+OllamaCloud组合,每周可免费使用5次OpenClaw任务。详细说明了Nodejs、Git和Ollama等组件的安装配置步骤,特别是Ollama需注册账号绑定云服务。部署完成后,在CherryStudio中启用Ollama服务即可调用云模型运行OpenClaw。该方案部署报错少,适合新手体验AI大模型服务。

1267

小龙虾牵手Ollama!本地模型+云端服务双模式,Windows/Ubuntu保姆级配置指南(附避坑代码)

本地模型模式可实现数据私有化部署,保障信息安全,适合对数据隐私有要求的开发场景;云端模型模式无需占用本地硬件资源,可快速体验不同大模型能力,适合快速迭代与原型开发。无论使用Windows还是Ubuntu系统,本文的分步操作和可复制代码均能帮你快速完成大模型接入。后续可根据开发需求,灵活切换本地/云端模型,或搭配不同业务场景开发专属智能体,大幅提升开发效率。

2501_93651177的博客 605

Megatron单机多卡Qwen2.5:pre-train+sft

英伟达:https://github.com/NVIDIA/Megatron-LM/releases/tag/core_r0.8.0阿里:https://github.com/alibaba/Pai-Megatron-Patch/releases/tag/v0.10.2。

weixin_46873015的博客 2177

开源AI新协议!AI Agent与前端交互的轻量级协议,轻松构建交互式AI应用!

AI Agent 的兴起让前端交互需求激增,但传统开发中,连接Agent后端与前端需大量定制代码,效率低下。 在 MCP(模型上下文协议)、A2A(Agent-to-Agent 通信协议)之后,AI Agent 的生态正在走向一个更完整的方向:AG-UI 协议横空出世,专为 Agent 与前端应用的通信交互而设计。

bugyinyin的博客 2045

从原理到应用:深入解析双编码器在机器人关节力矩感知中的实现

本文深入解析了双编码器方案在机器人关节力矩感知中的实现原理与应用。该方案通过在电机侧和输出侧分别安装编码器,利用两者位置差异间接高精度计算外力,克服了传统电流环精度不足和扭矩传感器成本高昂的缺点。它为实现协作机器人的丝滑拖动示教、灵敏碰撞检测以及足式机器人的动态平衡与柔顺控制提供了关键技术支撑,是目前高性能机器人力控的主流选择。

t8u9v0w1x的博客 658

ollama v0.12.0 发布:引入云端大模型预览,支持本地与云端无缝融合

使开发者不仅能在本地运行模型,还能直接调用云端算力运行超大模型,实现本地与云端的无缝协同。同时,本版本也对多种模型架构的支持、GPU 兼容性以及 API 行为做了重要优化。在 v0.12.0 中,Ollama 首次提供了云端推理能力,开发者可以运行体量更大的模型,而无需担心本地机器显存容量不足。这不仅解决了本地硬件性能不足的问题,还统一了 API 调用方式,使得开发者能够像使用本地模型一样,轻松调用超大规模云端模型。Ollama v0.12.0 的发布,标志着该平台从本地推理走向了。

福大大架构师每日一题 1492

解放双手:用KUKA示教器白键一键触发复杂工艺,自定义你的快捷指令

本文详细介绍了如何利用KUKA示教器的工艺白键功能,通过自定义快捷指令一键触发复杂工艺,显著提升自动化产线效率。文章涵盖UserTech技术栈解析、KRL脚本封装、人机交互视觉工程及工业实战策略,帮助工程师实现机械臂操作的高阶优化。

weixin_30379531的博客 430

FileZilla Server 1.2.0 TLS证书过期问题

FileZilla Server TLS证书过期后重新生成

Wigle的备忘录 7523

深度解析MiniMax M2.7:当AI学会“自我进化”,以及如何通过Ollama本地体验最强Agent

MiniMax M2.7大模型带来AI领域的突破性进展,首次实现模型"自我进化"能力。该模型不仅能自主完成代码编写、故障排查等复杂任务,还能优化自身工作流程,在软件工程测试中表现优异。通过内置"Agent Harness"体系,M2.7可承担30%-50%研发工作量,实现100轮以上的递归迭代优化。实测显示,它在科研流水线、系统故障排查等场景展现出类人类专业水平。用户可通过Ollama在本地终端轻松调用云端M2.7,无需昂贵硬件即可体验AI协作。这标志着AI正从工具阶

PeterPan的博客 3661

5.2.4_标志位的生成

计算机组成原理之标志位的生成

人生得意须尽欢 7567

Ollama Cloud 与直接使用 API 的对比

如果你的目标是获得更强模型、更低价格、更多模型选择,直接使用 API 通常更合适。如果你的目标是统一本地模型和云端模型的使用方式,减少适配成本,Ollama Cloud 才更有价值。

wj的博客 650

FPGA电路设计2——芯片原理图绘制

FPGA板卡设计要点:1. 引脚分配遵循电平标准分组原则,需通过预编译验证;2. 电源设计需满足上电时序要求并合理估算功耗;3. 最小系统包含配置Bank(Bank0)、通用I/O Bank(HRBank)、高性能Bank(HPBank)和高速收发器Bank(MGT/GTX)。其中Bank0负责关键配置功能,包括模式选择(支持SPI/BPI/JTAG等5种配置方式)、JTAG调试接口和系统监控引脚,其电压选择(CFGBVS_0)必须与VCCO_0电压匹配。

在读研究生,FPGA电路设计与功能开发。 1233

YOLO11改进-模块-引入多尺度差异融合模块MDFM

MDFM主要用于融合双时相图像特征并生成带有丰富上下文信息的差异特征,其过程包含以下步骤:1. 特征提取与差异特征生成首先从双时相图像中提取特征f1和f2,然后将f1和f2进行像素级别的相减,再对相减结果取绝对值,最后通过一个3x3的卷积操作得到Di。2. 多尺度特征融合(MSFF)接着利用多尺度特征学习机制来增强特征融合效果。该机制通过不同核大小的卷积构建多尺度融合过程,具体是通过一个名为 MSFF 单元来实现的。

qq_64693987的博客 4377

【模型部署攻略】零成本尝试llama3.1私有化部署!

这篇文章主要介绍在自己本地gpu性能不足或者没有gpu的时候,如何部署体验llama3.1。解决方案:采用腾讯cloud Studio免费算力,结合ollama工具私有化部署llama3.1-8b 模型 总结:由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。但是具体到个人,只能说是:这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家,

z551646的博客 1185

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

ollama v0.15.1更新:全面优化 GLM-4.7-Flash 性能、增强 Claude 与 OpenCode 集成、提升跨平台构建效率

Ollama v0.15.1 不只是一次修复版本,而是一场性能、生态与开发体验的综合升级。从模型底层优化到工具链集成,从跨平台编译加速到文档统一更新,这次迭代让 Ollama 离“本地通用 AI 工作平台”的愿景更近了一步。

福大大架构师每日一题 3031

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

本地太卡?Ollama云模型:无需显卡,轻松运行百亿参数大模型!看到就是赚到,建议收藏!!

Ollama云模型功能解决了本地硬件不足的问题,允许用户在云端运行大模型而不受本地显卡限制。使用方法简单,只需登录账号并添加'-cloud'后缀即可运行支持的超大模型。云模型不占用本地资源,适合电脑配置较低或需要运行大模型的场景,但需注意网络延迟和API密钥安全。目前处于免费预览期,未来可能按调用计费,是个人开发者和轻量部署的理想选择。

Android23333的博客 1916

最全 Ollama 大模型部署指南,非常详细收藏我这一篇就够了!

•本地化部署:无需依赖云端服务,保护数据隐私•极简操作:命令行一键式管理模型(下载/加载/卸载)•硬件友好:支持多平台运行,智能分配 CPU/GPU 资源•开放生态:兼容主流开源模型及社区工具链。

2401_84204413的博客 9884

ollama v0.12.3 最新版本详解:新模型、功能修复与深度技术更新

在中,官方带来了两款重量级新模型,并针对此前版本的多项功能问题进行了修复与优化,同时还引入了新的模型架构实现及更健壮的解析逻辑。

福大大架构师每日一题 3909

每月免费使用10000分钟GPU:Cloud Studio在云端搭建大模型

随着大模型的普及,越来越多的开发者来学习大模型。提供了一个强大的平台,支持快速创建 GPU 加速的开发环境,尤其适合进行深度学习和 AI 相关的任务。本篇文章将为你详细介绍如何通过在云端创建一台 GPU 服务器,并通过运行机器学习模型,最终通过 Web 端进行访问。

jast 5689

ollama v0.21.2 最新更新详解:OpenClaw 更稳了,模型推荐顺序终于固定,云端结构化输出说明也补上了

代码地址:github.com/ollama/ollama整体来看,更稳更准更固定更一致OpenClaw 的 onboarding 流程被加固的推荐模型顺序固定为 canonical orderOpenClaw 集成启用 Ollama bundled web searchmanaged single integration 对 live config drift 的处理更严谨文档补充了结构化输出在 Cloud 下不支持的说明。

福大大架构师每日一题 1577

Ollama Cloud:解锁大模型潜力的云端开发新范式

Ollama Cloud通过云端计算与本地交互无缝结合的云端解决方案,重塑了大模型开发门槛。它让开发者无需昂贵硬件,即可在本地环境中调用云端强大的GPU集群运行百亿级参数模型,实现了AI算力的民主化与敏捷开发。本文详解其核心能力、模型生态,并提供了从环境搭建到Web集成的实战指南,助力开发者高效构建AI应用。

weixin_28475533的博客 712
上一篇: IntelliJ IDEA 配置与插件全部迁移到其他盘,彻底释放C盘空间
下一篇: 每月500 Credits+不限频对话,这款IDEA插件的免费版诚意拉满
智_永无止境
博客等级 码龄10年 803粉丝 403原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

智_永无止境

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值