Codex 如何接入 Claude 等其它模型?使用 CC Switch 接入 FluxLane API 教程

Codex 是 OpenAI 推出的 AI 编程工具。它不仅可以理解整个代码项目,还能直接读取和修改本地文件、执行终端命令、调试程序,帮助开发者完成从编写代码到项目重构的工作。

不过,在使用 Codex 的过程中,有些开发者可能希望拥有更多模型选择。例如,除了 OpenAI 自家的 GPT 模型,也希望使用 Claude、DeepSeek、GLM、Kimi 等其他模型,按照不同的开发任务灵活切换。

这时,可以通过第三方 API 平台来扩展 Codex 的模型选择。

本文以 macOS 为例,介绍如何使用 CC Switch 为 Codex 桌面客户端添加 FluxLane(fluxlane.ai) 自定义模型供应商。整个过程以图形化界面操作为主,不需要手动编写复杂的配置文件,也不需要安装和使用 Codex CLI。

本文使用的是新版 ChatGPT macOS 桌面应用中的 Codex 功能,不是 Codex 命令行版本。

一、准备工作:需要安装哪些软件?

开始配置之前,需要准备三个东西:

准备项目作用
ChatGPT 桌面应用使用其中的 Codex 功能
CC Switch管理和切换 Codex 模型供应商
FluxLane API Key连接 FluxLane 模型接口

1. 安装 Codex 桌面客户端

如果你已经安装并使用 Codex 桌面版,可以直接跳过这一步。

需要注意的是,Codex 现在已经整合进新版 ChatGPT 桌面应用。第一次安装的用户,需要下载新版 ChatGPT macOS 应用,然后在应用中选择 Codex。

下载地址:

https://chatgpt.com/download/

下载后,按照常规 macOS 软件安装方式,将应用拖入「应用程序」文件夹。

打开应用,使用 ChatGPT 账号登录,然后从应用菜单中选择「Codex」,进入编程工作区。

如果你之前已经单独安装过 Codex App,可以直接通过应用内的更新功能升级,不需要重新创建项目。

2. 安装 CC Switch

CC Switch 是一款开源免费的 AI 编程工具配置管理软件,可以集中管理 Claude Code、Codex、OpenCode 等工具的模型供应商。在我们之前的教程中,就使用了 CC Switch 让 Claude Code 接入第三方大模型供应商。

对于需要使用多个 AI 模型的开发者来说,可以通过 CC Switch 添加不同的 API 服务,再根据需要切换,而不必每次手动修改配置文件。

CC Switch 官方网站:

https://ccswitch.io/

macOS 用户有两种安装方式。

方式一:使用 Homebrew 安装

如果你的 Mac 已经安装了 Homebrew,可以打开「终端」(Terminal),执行:

brew install --cask cc-switch

如果之前已经安装过 CC Switch,可以执行:

brew upgrade --cask cc-switch

方式二:下载安装包

也可以直接访问 CC Switch 的网站:ccswitch.io。下载最新的 macOS 安装包。

建议使用较新的版本。本文使用的是下载安装包的方式。

3. 注册 FluxLane 账号并创建 API Key

接下来,需要准备 FluxLane API Key。

首先访问 FluxLane 官网:

https://www.fluxlane.ai/

注册或登录账号后,进入控制台。

找到「API 密钥(令牌)」页面,点击创建 API Key。本文先使用 Claude sonnet 5.5 作为配置示例。

ScreenShot_2026-11-09_152557_388.png

创建成功后,复制并保存密钥。后续配置 CC Switch 时需要使用。

二、先完成 Codex 官方账号登录

在正式接入 FluxLane 之前,有一个需要特别注意的地方。

Codex 桌面客户端与命令行版本共用一套本地配置,但桌面端的模型选择器还涉及官方账号登录状态。

CC Switch 官方提供了一个「保留官方登录」功能。如果直接切换第三方模型供应商,却没有正确保留官方登录状态,Codex 桌面端可能无法正常显示自定义模型。

因此,建议先完成一次官方账号登录。

登录 ChatGPT 账号

打开新版 ChatGPT 桌面应用,进入 Codex。按照界面提示完成官方账号登录。

如果已经登录过,可以跳过这一步。

三、在 CC Switch 中添加 FluxLane 模型供应商

完成前面的准备工作后,就可以开始配置 FluxLane 了。

第 1 步:进入 Codex 供应商管理页面

打开 CC Switch,选择 Codex 图标。点击页面右上角的「+」按钮,进入添加供应商界面。

ScreenShot_2026-11-09_152751_738.png

在供应商预设列表中,选择自定义配置。因为 FluxLane 需要手动填写 API 地址和密钥,所以我们使用自定义供应商的方式进行接入。

第 2 步:填写 FluxLane API 信息

在供应商配置页面,填写以下信息:

配置项填写内容
Provider NameFluxLane
API Key你的 FluxLane API Key
Base URLhttps://run.fluxlane.ai

其中,API Key 填写刚刚在 FluxLane 控制台创建的密钥。同时,你还需要在“模型列表”里手动添加你这次要用的模型。我们在Fluxlane 后台设置的是调用 Claude sonnet 5.5。填写好之后如下图所示。

ScreenShot_2026-11-09_152503_113.png

在高级选项中,“上游格式”选择“”Chat Completions“。

ScreenShot_2026-11-09_153716_639.png

第 3 步:保存并切换到 FluxLane

完成配置后,点击页面下方的“添加”按钮,保存供应商。

回到 Codex 供应商列表,就可以看到刚刚创建的 FluxLane。点击对应卡片上的「路由到此」,将其切换为当前使用的供应商。

ScreenShot_2026-11-09_162312_866.png

四、在 Codex 桌面客户端中使用 FluxLane

现在已经完成了 FluxLane 的配置。

接下来,需要重新启动 Codex 桌面应用,让它读取新的模型供应商配置。然后重新打开应用,进入 Codex 工作区。右下角的模型选项会变为 Claude sonnet 5.5。对话能得到回复,即完成了配置。

ScreenShot_2026-11-09_153646_662.png

总结

通过本文的步骤,我们已经完成了在 macOS 上使用 CC Switch 为 Codex 桌面客户端接入 FluxLane API 的配置。你还可以在 Fluxlane 上生成多个调用不同模型的 API,然后添加到 CC Switch 中,每次选择路由不同的 API,就可以让 Codex 切换不同模型来工作。

这种方式不需要修改复杂的系统配置,也不需要每次更换模型时手动编辑配置文件。通过 CC Switch 就可以统一管理 Codex 的模型。

对于需要长期使用 AI 编程工具的开发者来说,能够根据任务选择不同模型也很重要。复杂的代码开发、项目重构可以使用能力更强的模型,而日常代码解释、简单文本处理等任务,则可以选择成本更合适的模型。

FluxLane 为开发者提供统一的 AI 模型 API 接入方式,通过一个 API Key 即可调用平台开放的多种主流模型,并在控制台查看调用记录、Token 用量和费用情况。

除了 Codex,FluxLane 还支持 OpenCode、Claude Code、VS Code 、WorkBuddy 等开发工具的 API 接入。

如果你希望在 Codex 中体验更多模型,可以访问 FluxLane 官网 注册账号,创建 API Key,并在 FluxLane 模型广场 查看可用模型及实时价格。

更多接入方法可以参考 FluxLane API 官方文档。

相关推荐

Spot GPU 与预留 GPU:AI 初创公司的实用成本指南

Spot GPU 可以显著降低灵活型训练任务和批量推理的成本。而对于稳定运行的生产工作负载,在将利用率、故障恢复和服务要求都纳入考量后,预留算力或其他可靠的算力方案可能更经济。任何一种采购模式,都不会仅凭名称就自动成为更好的选择。DigitalOcean 提供了一个明确的 H100 长期承诺价格基准。Azure 在所选区域提供了折扣幅度较大的 H100 NVL Spot 计费方案。Google Cloud 公布的 H100 Spot 折扣则低于其宣传的最高折扣幅度。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 194

不受限于 Copilot,教你在 VS Code 中接入 GPT、Claude

选择自定义接口后,VS Code 会要求填写模型提供商相关信息。Group Name(分组名称):FluxlaneAPI Key:粘贴刚刚在 Fluxlane 控制台创建的 API Key接下来,在 API 类型(API Type)中选择:Chat Completions。这里我们使用 OpenAI 兼容的 Chat Completions 接口。完成后,VS Code 会打开一个名为的配置文件,接下来需要在这个文件中填写具体的模型接口地址和模型 ID。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 603

WorkBuddy 接入自定义模型教程:接入 GPT、Claude 等大模型

在 WorkBuddy 主界面,点击底部输入框附近的模型选择器(默认显示当前模型名)。在弹出的模型列表最底部,点击“配置自定义模型你也可以从左下角头像进入“设置”,在左侧导航中选择“模型”,到达同一个配置页面。进入“模型”设置页后,点击右上角的“+ 添加模型在“提供商”下拉列表中选择最后一项“自定义 / Custom选择自定义后,接口地址、API Key、模型名称三个字段都需要手动填写。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1854

DigitalOcean 提示词缓存正式上线,Agent 上下文最高省 90%

的提示词缓存(Prompt Caching)现已正式可用,开放模型目录中所有受支持的模型均可使用,无需修改现有请求代码。缓存输入 Token 的费用最高可降低 90%,首 Token 延迟最高可降低 80%。Agent 不会每次执行任务都从头开始。每次发起新请求时,它都会在已有上下文的末尾追加上一次工具调用的结果,而这个上下文中早已包含系统提示词、工具定义、读取过的所有文件,以及此前执行的每一步操作及其结果。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 600

DigitalOcean 无服务器推理实测:六款模型的首 Token 延迟表现

你有没有遇到过这种情况:Demo 跑得好好的语音助手,一上生产就被人吐槽"反应太慢";你翻遍模型规格表,每个都说自己"低延迟",但真到用户盯着屏幕等回复的时候,谁快谁慢你心里根本没底。更麻烦的是,这种等待是没法靠猜的。你挑了三四个模型,文档都说自己快,但没人告诉你:在你实际用的提示词长度下,谁真的能一秒内开口?谁在你把文档从 500 字加到 10,000 字之后会突然变慢?谁平时看着正常,却偶尔卡上十几秒让用户以为你的产品挂了?这些恰恰是选型时最该知道的事。但市面上没有一个简单、公开的答案。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 550

AI Agent 运行环境难搭、空闲还收费?MicroVMs 正式公测

AI Agent 使用计算资源的方式,跟传统应用不一样。在一次会话中,它会写代码、跑代码、调用模型,然后等一个工具或一个人,再接着干。所以它需要的是短促、高强度的真实计算爆发。它还需要在刚刚生成的代码周围划一道硬边界,这样某个 Agent 的错误就不会扩散到宿主机或其他客户那里。这种模式并不是 Agent 独有的。传统基础设施满足不了这些需求。一台 7×24 小时开着的服务器,去跑一个每小时只忙几分钟的工作负载,意味着你要为大量空闲计算时间买单。容器启动快、密度高,但它们和邻居共享内核。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 684

Agent Droplets 服务器正式上线:为 AI Agent 提供一站式云基础设施

上周,DigitalOcean 正式开放的公测:提供托管运行时、受权限控制的 16,000 多个工具访问、无服务器推理,以及持久化的内存和存储,全部运行在同一个云平台上。开发者已经启动了数千个 Agent Session。如今,构建一个真正有用的 Agent 已经不再困难,但要把它稳定地运行起来,依然是一件麻烦事。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 412

Claude Sonnet 5.5 现已上线 DigitalOcean AI 推理云

Anthropic 最新发布的现已上线。开发者无需单独管理 Anthropic 账号或模型基础设施,即可通过 DigitalOcean API 调用该模型,而且支持国内直连,无需担心网络障碍。相比上一代 Sonnet 5,这次升级并不是简单地把模型“做得更大”。根据 Anthropic 公布的数据,Sonnet 5.5 的输出速度比 Sonnet 5。虽然每百万 Token 的单价没有变化,但完成同一项任务通常需要更少的 Token,Anthropic 测试中单任务成本最高可降低约。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1672

吞吐量 +38%:DigitalOcean 托管数据库高级版正式上线

随着业务规模不断扩大,数据库也会从一个简单的数据存储层,逐渐成为整个应用架构的核心。多年来,DigitalOcean 已帮助数千家初创企业和成长型公司轻松部署和扩展全托管的和数据库,无需承担复杂的日常运维工作。但随着访问流量快速增长、数据规模持续扩大,以及业务对可用性的要求越来越高,高增长工作负载需要更强大的数据库基础设施来支撑。正因如此,我们正式宣布 DigitalOcean 托管数据库 Advanced Edition(高级版)面向 MySQL 和 PostgreSQL 用户正式上线。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 494

DeepSeek V4.1 Flash 现已上线 DigitalOcean:更强 Agent,更低推理成本

DeepSeek 最新发布的现已上线,开发者可以直接通过调用,无需自己部署和维护 GPU 推理集群。这次的 V4.1 Flash 有点不一样。它并没有继续简单地追求“参数越大越好”,而是采用了 DeepSeek 新一代:模型总参数达到,但处理输入时只激活约,生成输出时激活约。更值得关注的是,在 DeepSeek 自己公布的测试中,这个“Flash”版本在不少 Agent 和 Coding Benchmark 上,反而超过了参数规模更大的。与此同时,它还支持。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1319

DigitalOcean vs OpenRouter:2026 年 AI 模型路由对比

当生产环境中的应用开始依赖多个模型时,模型路由就不再是一个“有更好、没有也行”的功能,而会直接影响推理成本和服务可用性。如今,这已经不是少数应用才会遇到的问题。根据,81% 的受访者预计今年需要依赖两个或更多 LLM 提供方才能保持竞争力,55% 已经至少更换过一次提供方,其中最主要的原因就是降低成本。这种变化也带来了一个单靠应用代码很难解决的基础设施问题:模型路由逻辑究竟应该作为独立的一层,附加在现有技术栈之上,还是直接运行在承载应用的基础设施内部?OpenRouter 给出的答案是“模型市场”。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1138

Kimi K3 + Claude:AI Agent 多模型路由实战

AI Agent 不同任务对模型能力的需求并不相同。本文以 Kimi K3 和 Claude 为例,介绍如何通过模型路由动态选择合适的模型,在兼顾任务质量和性能的同时,减少不必要的推理成本。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1257

Omarchy 将研发基础设施迁移至 DigitalOcean 云平台

无论是用于打包的构建服务器、用于 PR 审查的智能体运行器,还是用于 QA 测试的 Droplet,DigitalOcean 恰好拥有我们需要的一切。简直不能想象更合适的合作伙伴了!Omarchy 的流水线就是这种模式的真实案例,而 DigitalOcean 的基础设施恰好契合其需求。除了基础设施迁移之外,DigitalOcean 还将以创始企业赞助方的身份加入 Omacom 基金会——该非营利组织为 Omarchy 的基础设施及其依赖的开源项目提供资金——并将担任 Omarchy 的智能体计算提供商。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 543

RAG 的 Embedding 模型需要微调吗?什么时候值得自己训练?

什么时候该继续用现成 Embedding API,什么时候值得自己微调?本文从 Recall@10、训练数据、向量维度和长期成本出发,给出判断方法,并介绍如何用 DigitalOcean GPU 与 PostgreSQL托管数据库搭建一套更可控的 RAG 检索架构。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 280

从API到专用GPU:2026年5大适合创业团队的AI推理平台深度对比

2026 年面向初创公司的 AI 推理服务商选型指南,深度对比 DigitalOcean、Groq、Replicate、Fireworks AI、Together AI 五家平台。从冷启动、缩容至零、扩展路径等维度评估,帮你找到从原型到生产的最优解,避免增长期的昂贵迁移。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1066

GPT 6 Astra 已上线 DigitalOcean AI 推理云:AGI 时代的计算机操作模型来了

OpenAI 于 9 月 3 日正式发布的 GPT-6 Astra,现已通过 DigitalOcean正式上线。开发者无需自己部署和维护 GPU 推理集群,即可直接通过 DigitalOcean 调用这款 OpenAI 迄今为止能力最强的旗舰模型。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1069

AMD旗舰GPU仅需4美元每小时,DigitalOcean上线Spot GPU实例

DigitalOcean AMD MI350X / MI355X Spot GPU 降至 $4/小时起。价格锁定、性价比极高,适合训练、批量推理等容错任务。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 605

GLM-5.3-Flash 成本优化实战:加一个参数,推理成本直降 6.3 倍

GLM-5.3-Flash API 到底要花多少钱?本文通过 2700 次真实调用,对比 GLM-5.3-Flash、Qwen3.8-Max 与 Kimi K3 的 Token 消耗和实际成本,并实测 reasoning_effort 如何将推理费用降低 6.3 倍。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 2263

Baseten vs DigitalOcean、RunPod:7 个 AI 模型部署平台横向对比

RunPod、Modal、Replicate 和 Spheron 与 Baseten 的核心产品竞争最直接。它们提供 Dedicated 或 Flexible GPU Infrastructure,用于运行自定义或微调模型,而不是只调用一个预建的 Model Catalog Entry。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 868

GLM 5.3 已上线 DigitalOcean AI 推理云平台:Agent 任务的高性价比底座来了

GLM-5.3-Flash 已上线 DigitalOcean AI 推理云平台:3200 亿参数、每 Token 仅激活 180 亿参数,支持 100 万 Token 上下文与原生图像/视频输入。DigitalOcean 调用价格低至每百万输入 Token 0.15 美元,并支持统一 API、多模型路由与模型评估。Z.ai 最新发布的现已上线,开发者可以直接通过调用,无需自己部署和维护 GPU 推理集群。如果你之前关注过 OpenRouter 和 OpenCode 上那个没有公开身份的。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1022

25 万条数据只花 7.04 美元,LLM 批量推理到底有多省?

25 万次请求被拆分成 7 个批量推理工作,全部完成且 0 失败;99.99% 的返回结果符合 JSON Schema,模型与数据集自带产品标签的一致性达到 83.6%。最大的推理任务每个包含 40,000 次请求,完成时间为 1.4~2.2 小时,远低于 24 小时的 Completion Window。一个包含 25,000 次请求、使用 Claude 模型的批量推理任务只用了 17 分钟。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1566

面向 AI 工作负载,单核性能提升 30%:DigitalOcean v5 Droplets 云服务器正式上线

DigitalOcean 云平台正式推出。这是新一代计算实例,基于第 5 代 AMD EPYC™ 处理器打造。v5 Droplets 云服务器专为高性能工作负载设计,包括计算密集型 Agentic AI 平台、AI/ML 工具、高吞吐量音视频转码,以及高流量的分布式 Web 应用和 API。与上一代 Droplets 云服务器相比,v5 Droplets 云服务器的。同时,这也是 DigitalOcean 首次允许用户分别选择 vCPU、内存和存储容量,并只为实际选择的资源付费。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1014

DigitalOcean 推理路由器新增缓存感知能力:为什么最便宜的模型不一定最省钱

Coinbase CEO Brian Armstrong 最近提出了一个问题,也是所有正在扩大 AI 使用规模的企业都在面对的问题:当 Token 用量呈指数增长时,怎样才能让 AI 支出保持基本不变?这并不是一个假设场景,而是各行各业的企业正在真实面对的问题:限制用量确实可以帮助控制账单,但也会同时限制真正有价值的工作。更好的办法,是通过更合理的默认模型、更智能的模型选择,以及针对具体工作负载更充分地利用缓存,改善每一次请求的成本结构。现在,DigitalOcean 推理路由器正式加入缓存感知(Cache

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 216

2026 LLM 成本计算指南:Token 价格、推理费用与降本方法

根据 2026 年的调查数据,去年接近四分之三的企业都出现了 AI 成本超出预算的情况。造成这一差距的一个重要原因,就是很多团队在工作负载进入生产环境之前,没有先做好准确的 LLM 成本测算。从价格表上看,Token 定价似乎很简单,无非就是每百万 Token 几美元,但真正的成本取决于工作负载上线后到底怎么运行。真实用户的提问和模型回答,长度往往和测试阶段的几个 Sample Prompt 不一样,可能更长,也可能更短。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1435

Qwen3.8-2.4T-A95B 部署与性能解析:DigitalOcean 无服务器推理实测

Qwen3.8-2.4T-A95B 是阿里云在 2026 年 8 月发布的旗舰级开源大语言模型。它是从 Qwen3.8-Max 旗舰模型衍生而来的开放权重纯文本版本,采用混合专家架构,总参数量 2.4 万亿,每个 Token 大约激活 950 亿参数,主要面向编程、工具调用和长周期 Agent 任务。在 DigitalOcean 上,它以纯文本输入、纯文本输出的形式提供。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 872

多模型路由怎么选?2026 年 4 款主流方案对比

多模型路由位于应用和语言模型之间,负责决定每一个进入系统的请求应该交给哪个模型处理。在构建LLM 应用时,通常不存在一个模型能够在成本、延迟、推理、编程、视觉和 Tool Calling 等所有维度同时做到最好。如果应用直接调用一个固定模型,那么无论请求简单还是复杂,都只能使用同一种模型能力和价格。应用 → 多模型路由层 → 选择模型 → 执行请求 → 返回统一响应路由层先分析 Prompt 或匹配预设规则,再从候选模型中挑选更适合当前任务的模型,把请求发送出去,并以一致格式返回结果。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 868

Qwen 3.8 已上线 DigitalOcean AI 推理云平台

阿里通义千问新一代旗舰模型现已上线,并可通过直接调用。根据官方所说,这次上线的并不是一款“小修小补”的 Qwen 模型。Qwen3.8-2.4T-A95B 采用,每次推理激活约 950 亿参数,重点面向长上下文、AI 编程以及 Agent 智能体等复杂工作负载。尤其值得注意的是,它最高支持,在代码、工具调用和智能体任务上的表现已经进入当前前沿大模型梯队,而 DigitalOcean 上的调用价格为。单看价格,Qwen 3.8 未必是市场上最便宜的选择。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 225

AI Agent 性能优化:如何用无服务器推理降低延迟、提升响应速度?

如果你已经针对自己的业务场景 Fine-tune 了模型,并且拥有自己的权重,那么就需要一个地方来部署它。第四种是。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 715

AI 应用成本怎么算?从推理费用到完整 TCO 拆解

Token 价格比较,不等于 TCO 比较。一套完整 AI 应用最终比单纯的推理账单贵多少,取决于它是怎么搭出来的。在前面的自下而上模型中,一个集中在单一平台上的 RAG 技术栈,总成本约为推理费用的1.24 倍;而完全相同的工作负载拆到两个平台之后,总成本会达到推理费用的2.9 倍。两者之间的差距全部来自计算、存储、网络、数据库、数据出站和运维成本。而这些项目,没有一个会出现在 $/百万 Token 的价格表中。$67,727/月$84,827/月(高 25%)$110,337/月。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 641

多款模型最高直降 50%:DigitalOcean 无服务器推理大降价

这里给一些还不太熟悉 DigitalOcean 云平台的用户介绍一下。DigitalOcean 无服务器推理是一项托管式模型推理服务。开发者可以直接通过 API 调用基础模型,不需要购买 GPU、部署推理框架,也不需要自己处理扩缩容、模型升级和底层基础设施运维。目前,DigitalOcean Inference 提供 70 多款模型。简单来说,它把“搭建并维护一套大模型推理服务”变成了“调用一个 API”。Serverless Inference 按实际使用量计费。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 906
上一篇: Spot GPU 与预留 GPU:AI 初创公司的实用成本指南
卓普云
卓普云 卓普云 卓普云
博客等级 码龄3年 3136粉丝 305原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值