教程:通过 Droplet 自动伸缩池实现工作负载自动扩展

处理不可预测的流量高峰对应用程序来说是一项重大挑战。对于管理 Web 应用程序、电子商务平台或 SaaS 解决方案的开发人员、DevOps 工程师和系统管理员而言,当用户活动突然增加,导致基础设施不堪重负时,这个问题就会显现出来。如果没有适当的扩容机制,高流量会减慢服务速度、增加延迟、降低用户体验,甚至导致完全停机——从而造成收入损失和声誉受损。

这个问题通常发生在营销活动、产品发布、季节性事件或你的内容病毒式传播期间。传统的解决方案要么是过度配置资源(这在正常流量期间会浪费资金),要么是手动扩容(这需要持续监控,并且无法足够快地响应突发高峰)。

DigitalOcean 的 Droplet 自动伸缩池 (Droplet Autoscale Pools) 提供了一种无缝的方式来自动调整基础设施以满足需求。该解决方案实时监控应用程序的资源利用率,并根据预定义的阈值动态添加或移除计算资源,确保在高峰期实现最佳性能,同时在活动较低期间最大限度地降低成本。

在本教程中,你将通过实际示例了解自动伸缩的重要性,学习如何使用 DigitalOcean 用户界面 (UI) 和命令行界面 (CLI) 设置 Droplet 自动伸缩池,配置伸缩规则和阈值,优化自动伸缩的最佳实践,监控性能和基准测试伸缩效率,进行负载测试以模拟真实的流量高峰并观察自动伸缩的实际效果,确定正确的自动伸缩池大小,以及有关 DigitalOcean 自动伸缩的常见问题解答。

理解自动伸缩

自动伸缩 (Auto-scaling) 是一种云计算功能,可根据当前需求自动调整服务器池中的计算资源数量。自动伸缩使用预定义的规则来根据需要增加或减少容量,而不是手动配置或取消配置服务器。

自动伸缩的工作原理

  1. 监控 (Monitoring): 系统持续监控 CPU 使用率、内存利用率或请求率等资源指标。
  2. 评估 (Evaluation): 当这些指标超过预定义的阈值时,将触发伸缩操作。
  3. 执行 (Execution): 在高需求期间自动添加新资源(横向扩展),或在低需求期间移除资源(横向缩减)。

自动伸缩的优势

  • 成本优化 (Cost Optimization): 仅在需要时为所需资源付费。
  • 性能提升 (Improved Performance): 即使在流量高峰期也能保持一致的性能。
  • 减少运营开销 (Reduced Operational Overhead): 无需手动扩容和持续监控。
  • 高可用性 (High Availability): 自动替换不健康的实例以保持服务可靠性。
  • 可伸缩性 (Scalability): 无需重新设计基础设施即可处理从数百到数百万用户的增长。

挑战与注意事项

  • 配置复杂性 (Configuration Complexity): 设置适当的阈值需要测试和微调。
  • 启动时间 (Boot Time): 新实例需要时间来初始化,这可能在快速扩容期间导致短暂延迟。
  • 有状态应用程序 (Stateful Applications): 在本地存储会话数据的应用程序需要额外的考虑。
  • 成本管理 (Cost Management): 配置不当可能导致不必要的扩容和成本增加。

真实世界的自动伸缩示例

场景 1:电子商务流量高峰 想象一家在线商店正在进行“黑色星期五”促销活动。流量突然激增,导致响应时间变慢。如果没有自动伸缩,客户会面临延迟或结账失败。有了 Droplet 自动伸缩池,基础设施会自动扩容,防止停机。

场景 2:SaaS 应用程序处理增长 一家初创公司推出了一个新功能,导致用户注册量增加。自动伸缩确保系统根据实时需求动态调整,而无需手动配置新服务器。

前提条件

在开始之前,请确保你具备以下条件:

  • 一个 DigitalOcean 账户。
  • 访问 DigitalOcean 控制面板的权限。
  • 在你的系统上安装并认证了 doctl CLI 工具。
  • 对 Droplets 有基本的了解。

步骤 1 - 创建自动伸缩池

Droplet 自动伸缩池能够根据资源利用率或固定大小为 Droplet 池启用自动水平扩展。

使用控制面板创建自动伸缩池

在 DigitalOcean 控制面板的左侧菜单中,单击 Droplets,其中包含 Droplets 选项卡和 Autoscale Pools 选项卡。

现在单击 Autoscale Pools 选项卡上的 Create an Autoscale Pool 按钮来创建自动伸缩池。

自动伸缩池配置

在“Autoscale Pool Configuration”部分,你可以选择池的配置,这决定了池的伸缩方式。

  • Autoscale (自动伸缩):根据 Droplet 的聚合资源利用率动态管理池中的 Droplet 数量。你可以选择:
    • Pool Size (池大小):控制池中 Droplet 的最小和最大数量。
    • Target Utilization (目标利用率):控制监控哪些指标(CPU、内存或两者)以及在什么阈值下进行伸缩。
    • Cooldown Duration (冷却持续时间):自动伸缩池在对池中 Droplet 进行修改之间等待的最短时间。选择一个至少与 Droplet 启动所需时间一样长的冷却持续时间。
  • Fixed Size (固定大小):在池中维护固定数量的 Droplet。你可以选择:
    • Number of Droplets (Droplet 数量):你希望池中拥有的 Droplet 数量。

在本教程中,你将使用 Autoscale 配置,根据你的池大小范围和利用率指标自动调整池中的 Droplet 数量。这对于管理不可预测的流量非常理想。

选择池大小、目标利用率和冷却持续时间

现在,让我们配置池大小和目标利用率。

在此示例中,你已将池大小设置为最少 1 个 Droplet,最多 3 个 Droplet。 我们将目标 CPU 利用率设置为 40%,内存利用率设置为 40%。当指标超过目标使用百分比时,一个 Droplet 将自动添加到你的自动伸缩池中。当它低于该值时,我们将移除一个。 冷却持续时间设置为 5 分钟。它设置了伸缩事件之间的最小等待时间,确保新 Droplet 完全启动并且利用率稳定后再进行进一步调整。

自动伸缩池 Droplet 配置

现在你将选择自动伸缩池中 Droplet 的配置。你可以在创建池后随时更新此配置。 选择基础 Droplet 大小、区域和镜像。

根据需要配置其他设置,例如 SSH 密钥、高级选项和唯一名称。

单击右上角的 Create Autoscale Pool 按钮。

你现在会注意到自动伸缩池正在创建并且处于 active (活动) 状态。

这将根据自动伸缩池配置中指定的内容创建一个 Droplet。

使用 CLI 创建自动伸缩池

你还可以使用 doctl 命令行实用程序来创建、配置和管理 Droplet 的自动伸缩池。 你可以参考此官方文档了解如何在你的系统上安装和配置 doctl。

一旦安装了 doctl,你将需要创建一个 API 令牌。 要生成个人访问令牌,请登录 DigitalOcean 控制面板。 在左侧菜单中,单击 API,这将带你进入“Applications & API”页面的“Tokens”选项卡。在 Personal access tokens 部分,单击 Generate New Token 按钮。

使用 API 令牌授予 doctl 访问你的 DigitalOcean 账户的权限。在 doctl auth init 提示时传入令牌字符串,并为此身份验证上下文指定一个名称。

doctl auth init --context <NAME>

现在你将被提示复制粘贴你生成的令牌。

Output
Please authenticate doctl for use with your DigitalOcean account. You can generate a token in the control panel at https://cloud.digitalocean.com/account/api/tokens
❯ Enter your access token: <TOKEN>

现在,使用以下命令列出已成功认证的生成令牌。

doctl auth list

你应该在输出中看到列出的令牌:

Output
mytoken(current)

注意:身份验证上下文允许你在多个已认证的账户之间切换。你可以重复上述步骤添加其他 DigitalOcean 账户,然后列出并在身份验证上下文之间切换:

doctl auth switch --context <NAME>

现在,要验证 doctl 是否正常工作,你可以从命令行运行以下命令。

doctl account get

Output
User Email                      Team    Droplet Limit    Email Verified    User UUID                               Status
your_email@digitalocean.com     CMS     10               true              xxxxxx-xxxxx-xxxxxx-a80bb9d13dd8        active

现在,使用以下 doctl 命令创建一个 Droplet 自动伸缩池。你可以在此 doctl compute droplet-autoscale 指南中查看完整的命令参考。 命令是:

doctl compute droplet-autoscale create --name my-droplet-pool --image ubuntu-24-04-x64 --region blr1 --size s-1vcpu-1gb --min-instances 1 --max-instances 3 --cpu-target 40 --mem-target 40 --cooldown-minutes 5 --project-id <PROJECT_ID> --ssh-keys <SSH_KEY_ID>

这将创建与上一节中从 DigitalOcean 云控制面板生成的配置相同的自动伸缩池。 你可以参考此官方文档了解如何使用 doctl 创建自动伸缩池以了解更多信息。

步骤 2 - 进行负载测试以测试自动伸缩性能

为了模拟流量高峰并观察自动伸缩,你将使用 loadtest 工具对 Droplet 执行负载测试。这将帮助你评估自动伸缩池在各种负载条件下的性能。

通过 SSH 连接到你的自动伸缩 Droplet 并安装 loadtest。

sudo npm install -g loadtest

负载测试本质上是对请求的配置,以模拟你要测试的系统上的负载。这使其非常灵活,特别擅长实现复杂的用户流程。但它也可以进行简单的测试,所以让我们从简单的开始:

以下是在你的 Droplet 上执行负载测试的命令行命令:

loadtest http://your-droplet-ip -n 1000 -c 10 -t 10m

此命令将在 10 分钟内以 10 个并发连接向指定的 Droplet IP 模拟 1000 个请求。根据需要调整参数以模拟不同的负载场景。 一段时间后,一旦目标 CPU 和内存利用率超过设定的阈值,你应该会注意到新的 Droplet 被创建以处理负载。

你可以使用我们往期关于负载测试简介的文章了解更多关于负载测试以及在 Ubuntu 上使用哪些框架进行负载测试的信息。

确定正确的自动伸缩池大小

选择正确的池大小取决于工作负载需求。请遵循以下准则:

  • 分析流量模式 (Analyze Traffic Patterns): 监控 CPU 使用趋势以确定平均负载和峰值负载。
  • 估算资源需求 (Estimate Resource Needs): 从基础池开始,并根据负载测试结果进行调整。
  • 考虑伸缩速度 (Consider Scaling Speed): 向上伸缩会添加新实例,这些实例需要时间来初始化。

设置为自动伸缩的池通过将利用率乘以池中当前的 Droplet 数量并对结果向上取整来确定池应具有多少 Droplet。

例如,一个拥有两个 Droplet、目标 CPU 利用率为 80%、当前 CPU 利用率为 95% 的自动伸缩池将执行以下计算来确定池的大小:

ceil(2 Droplets * (95% current CPU / 80% target CPU))
= ceil(2 Droplets * 1.1875)
= ceil(2.375 Droplets)
= 3 Droplets

因此,该池将从两个 Droplet 扩展到三个 Droplet。 如果设置了多个指标,则池将使用所有指标中此计算的最大结果。

你可以参考 DigitalOcean 的官方指南获取详细的自动伸缩池大小建议。

常见问题解答 (FAQs)

  1. DigitalOcean 自动伸缩池是如何工作的? DigitalOcean 自动伸缩池根据资源利用率或固定大小动态调整池中的 Droplet 数量。这是通过自动水平扩展实现的,确保池大小能够适应变化的工作负载需求。
  2. 所需的最小 Droplet 数量是多少? 建议至少使用两个 Droplet 以实现冗余和平滑伸缩。这允许负载分配,并确保池可以在不停机的情况下向上或向下伸缩。
  3. 自动伸缩响应流量高峰的速度有多快? 自动伸缩通过根据冷却持续时间 (Cooldown Duration) 向上或向下伸缩来响应流量高峰。这段时间是新实例初始化并变为可用所必需的。为了最大限度地减少伸缩延迟的影响,建议进行预热。 池的冷却持续时间是自动伸缩池在对池中 Droplet 进行修改之间等待的最短时间。 这种冷却可以防止在伸缩过程中的抖动。它还通过在新 Droplet 启动之前销毁旧 Droplet 来防止在配置更改期间发生停机。
  4. 我可以将自动伸缩池与负载均衡器一起使用吗? 是的,DigitalOcean 自动伸缩池可以与 DigitalOcean 负载均衡器结合使用,以确保在池中高效分配流量。这种组合使你的应用程序能够处理增加的流量并动态伸缩。
  5. 如何监控我的自动伸缩性能? 要监控自动伸缩性能,请使用 DigitalOcean 云控制面板上的 Autoscale Pools Tab (自动伸缩池选项卡) 或 doctl compute droplet-autoscale list 命令。这可以提供对自动伸缩池当前状态的洞察,并帮助你优化其配置。
  6. 我可以手动调整自动伸缩池中的 Droplet 数量吗? 是的,你可以使用 DigitalOcean 控制面板或 CLI 手动调整自动伸缩池中的 Droplet 数量。这允许对池大小进行细粒度控制,使你能够响应变化的工作负载需求。
  7. 如果我的 Droplet 数量达到最大限制会发生什么? 如果 Droplet 数量达到为自动伸缩池设置的最大限制,则不会创建额外的 Droplet。设置适当的最大值至关重要,以确保你的池可以扩展以满足需求,而不会超出资源限制。

结论

DigitalOcean 的 Droplet 自动伸缩池为处理不可预测的工作负载和流量模式提供了强大的解决方案。通过遵循本教程,你可以有效地配置自动伸缩、优化性能,并在无需人工干预的情况下确保流量高峰期间的平稳运行。

实施最佳实践,例如使用负载均衡器分配流量,根据应用程序的性能特征设置适当的伸缩阈值,以及配置最佳的冷却周期,将最大限度地发挥 DigitalOcean 上自动伸缩的优势。

实施 Droplet 自动伸缩池的主要优势包括:

  • 成本优化: 仅在需要时为所需资源付费。
  • 提高可靠性: 自动处理流量高峰而不会降低服务质量。
  • 减少运营开销: 无需手动扩容和持续监控。
  • 增强用户体验: 无论负载如何,都能保持一致的性能。
  • 业务敏捷性: 快速适应不断变化的市场条件和季节性需求。

对于生产工作负载,请考虑使用 DigitalOcean Monitoring 实施全面的监控策略,以便更深入地了解应用程序的性能,并随着时间的推移进一步优化你的自动伸缩配置。

通过利用 DigitalOcean 的基础设施和自动伸缩功能,你可以构建具有弹性、可伸缩的应用程序,在优化云基础设施成本的同时提供一致的性能。

最后如果你正在寻找支持欧美地区、东南亚等全球范围内的价格便宜的云服务,欢迎尝试 DigitalOcean。如需了解更多,可与 Digitalocean 中国区独家战略合作伙伴卓普云直接交流。

相关推荐

Spot GPU 与预留 GPU:AI 初创公司的实用成本指南

Spot GPU 可以显著降低灵活型训练任务和批量推理的成本。而对于稳定运行的生产工作负载,在将利用率、故障恢复和服务要求都纳入考量后,预留算力或其他可靠的算力方案可能更经济。任何一种采购模式,都不会仅凭名称就自动成为更好的选择。DigitalOcean 提供了一个明确的 H100 长期承诺价格基准。Azure 在所选区域提供了折扣幅度较大的 H100 NVL Spot 计费方案。Google Cloud 公布的 H100 Spot 折扣则低于其宣传的最高折扣幅度。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 190

不受限于 Copilot,教你在 VS Code 中接入 GPT、Claude

选择自定义接口后,VS Code 会要求填写模型提供商相关信息。Group Name(分组名称):FluxlaneAPI Key:粘贴刚刚在 Fluxlane 控制台创建的 API Key接下来,在 API 类型(API Type)中选择:Chat Completions。这里我们使用 OpenAI 兼容的 Chat Completions 接口。完成后,VS Code 会打开一个名为的配置文件,接下来需要在这个文件中填写具体的模型接口地址和模型 ID。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 298

WorkBuddy 接入自定义模型教程:接入 GPT、Claude 等大模型

在 WorkBuddy 主界面,点击底部输入框附近的模型选择器(默认显示当前模型名)。在弹出的模型列表最底部,点击“配置自定义模型你也可以从左下角头像进入“设置”,在左侧导航中选择“模型”,到达同一个配置页面。进入“模型”设置页后,点击右上角的“+ 添加模型在“提供商”下拉列表中选择最后一项“自定义 / Custom选择自定义后,接口地址、API Key、模型名称三个字段都需要手动填写。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1779

DigitalOcean 提示词缓存正式上线,Agent 上下文最高省 90%

的提示词缓存(Prompt Caching)现已正式可用,开放模型目录中所有受支持的模型均可使用,无需修改现有请求代码。缓存输入 Token 的费用最高可降低 90%,首 Token 延迟最高可降低 80%。Agent 不会每次执行任务都从头开始。每次发起新请求时,它都会在已有上下文的末尾追加上一次工具调用的结果,而这个上下文中早已包含系统提示词、工具定义、读取过的所有文件,以及此前执行的每一步操作及其结果。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 598

DigitalOcean 无服务器推理实测:六款模型的首 Token 延迟表现

你有没有遇到过这种情况:Demo 跑得好好的语音助手,一上生产就被人吐槽"反应太慢";你翻遍模型规格表,每个都说自己"低延迟",但真到用户盯着屏幕等回复的时候,谁快谁慢你心里根本没底。更麻烦的是,这种等待是没法靠猜的。你挑了三四个模型,文档都说自己快,但没人告诉你:在你实际用的提示词长度下,谁真的能一秒内开口?谁在你把文档从 500 字加到 10,000 字之后会突然变慢?谁平时看着正常,却偶尔卡上十几秒让用户以为你的产品挂了?这些恰恰是选型时最该知道的事。但市面上没有一个简单、公开的答案。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 549

AI Agent 运行环境难搭、空闲还收费?MicroVMs 正式公测

AI Agent 使用计算资源的方式,跟传统应用不一样。在一次会话中,它会写代码、跑代码、调用模型,然后等一个工具或一个人,再接着干。所以它需要的是短促、高强度的真实计算爆发。它还需要在刚刚生成的代码周围划一道硬边界,这样某个 Agent 的错误就不会扩散到宿主机或其他客户那里。这种模式并不是 Agent 独有的。传统基础设施满足不了这些需求。一台 7×24 小时开着的服务器,去跑一个每小时只忙几分钟的工作负载,意味着你要为大量空闲计算时间买单。容器启动快、密度高,但它们和邻居共享内核。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 684

Agent Droplets 服务器正式上线:为 AI Agent 提供一站式云基础设施

上周,DigitalOcean 正式开放的公测:提供托管运行时、受权限控制的 16,000 多个工具访问、无服务器推理,以及持久化的内存和存储,全部运行在同一个云平台上。开发者已经启动了数千个 Agent Session。如今,构建一个真正有用的 Agent 已经不再困难,但要把它稳定地运行起来,依然是一件麻烦事。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 412

Claude Sonnet 5.5 现已上线 DigitalOcean AI 推理云

Anthropic 最新发布的现已上线。开发者无需单独管理 Anthropic 账号或模型基础设施,即可通过 DigitalOcean API 调用该模型,而且支持国内直连,无需担心网络障碍。相比上一代 Sonnet 5,这次升级并不是简单地把模型“做得更大”。根据 Anthropic 公布的数据,Sonnet 5.5 的输出速度比 Sonnet 5。虽然每百万 Token 的单价没有变化,但完成同一项任务通常需要更少的 Token,Anthropic 测试中单任务成本最高可降低约。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1668

吞吐量 +38%:DigitalOcean 托管数据库高级版正式上线

随着业务规模不断扩大,数据库也会从一个简单的数据存储层,逐渐成为整个应用架构的核心。多年来,DigitalOcean 已帮助数千家初创企业和成长型公司轻松部署和扩展全托管的和数据库,无需承担复杂的日常运维工作。但随着访问流量快速增长、数据规模持续扩大,以及业务对可用性的要求越来越高,高增长工作负载需要更强大的数据库基础设施来支撑。正因如此,我们正式宣布 DigitalOcean 托管数据库 Advanced Edition(高级版)面向 MySQL 和 PostgreSQL 用户正式上线。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 492

DeepSeek V4.1 Flash 现已上线 DigitalOcean:更强 Agent,更低推理成本

DeepSeek 最新发布的现已上线,开发者可以直接通过调用,无需自己部署和维护 GPU 推理集群。这次的 V4.1 Flash 有点不一样。它并没有继续简单地追求“参数越大越好”,而是采用了 DeepSeek 新一代:模型总参数达到,但处理输入时只激活约,生成输出时激活约。更值得关注的是,在 DeepSeek 自己公布的测试中,这个“Flash”版本在不少 Agent 和 Coding Benchmark 上,反而超过了参数规模更大的。与此同时,它还支持。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1318

DigitalOcean vs OpenRouter:2026 年 AI 模型路由对比

当生产环境中的应用开始依赖多个模型时,模型路由就不再是一个“有更好、没有也行”的功能,而会直接影响推理成本和服务可用性。如今,这已经不是少数应用才会遇到的问题。根据,81% 的受访者预计今年需要依赖两个或更多 LLM 提供方才能保持竞争力,55% 已经至少更换过一次提供方,其中最主要的原因就是降低成本。这种变化也带来了一个单靠应用代码很难解决的基础设施问题:模型路由逻辑究竟应该作为独立的一层,附加在现有技术栈之上,还是直接运行在承载应用的基础设施内部?OpenRouter 给出的答案是“模型市场”。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1138

Kimi K3 + Claude:AI Agent 多模型路由实战

AI Agent 不同任务对模型能力的需求并不相同。本文以 Kimi K3 和 Claude 为例,介绍如何通过模型路由动态选择合适的模型,在兼顾任务质量和性能的同时,减少不必要的推理成本。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1257

Omarchy 将研发基础设施迁移至 DigitalOcean 云平台

无论是用于打包的构建服务器、用于 PR 审查的智能体运行器,还是用于 QA 测试的 Droplet,DigitalOcean 恰好拥有我们需要的一切。简直不能想象更合适的合作伙伴了!Omarchy 的流水线就是这种模式的真实案例,而 DigitalOcean 的基础设施恰好契合其需求。除了基础设施迁移之外,DigitalOcean 还将以创始企业赞助方的身份加入 Omacom 基金会——该非营利组织为 Omarchy 的基础设施及其依赖的开源项目提供资金——并将担任 Omarchy 的智能体计算提供商。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 543

RAG 的 Embedding 模型需要微调吗?什么时候值得自己训练?

什么时候该继续用现成 Embedding API,什么时候值得自己微调?本文从 Recall@10、训练数据、向量维度和长期成本出发,给出判断方法,并介绍如何用 DigitalOcean GPU 与 PostgreSQL托管数据库搭建一套更可控的 RAG 检索架构。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 277

从API到专用GPU:2026年5大适合创业团队的AI推理平台深度对比

2026 年面向初创公司的 AI 推理服务商选型指南,深度对比 DigitalOcean、Groq、Replicate、Fireworks AI、Together AI 五家平台。从冷启动、缩容至零、扩展路径等维度评估,帮你找到从原型到生产的最优解,避免增长期的昂贵迁移。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1062

GPT 6 Astra 已上线 DigitalOcean AI 推理云:AGI 时代的计算机操作模型来了

OpenAI 于 9 月 3 日正式发布的 GPT-6 Astra,现已通过 DigitalOcean正式上线。开发者无需自己部署和维护 GPU 推理集群,即可直接通过 DigitalOcean 调用这款 OpenAI 迄今为止能力最强的旗舰模型。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1067

AMD旗舰GPU仅需4美元每小时,DigitalOcean上线Spot GPU实例

DigitalOcean AMD MI350X / MI355X Spot GPU 降至 $4/小时起。价格锁定、性价比极高,适合训练、批量推理等容错任务。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 603

GLM-5.3-Flash 成本优化实战:加一个参数,推理成本直降 6.3 倍

GLM-5.3-Flash API 到底要花多少钱?本文通过 2700 次真实调用,对比 GLM-5.3-Flash、Qwen3.8-Max 与 Kimi K3 的 Token 消耗和实际成本,并实测 reasoning_effort 如何将推理费用降低 6.3 倍。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 2254

Baseten vs DigitalOcean、RunPod:7 个 AI 模型部署平台横向对比

RunPod、Modal、Replicate 和 Spheron 与 Baseten 的核心产品竞争最直接。它们提供 Dedicated 或 Flexible GPU Infrastructure,用于运行自定义或微调模型,而不是只调用一个预建的 Model Catalog Entry。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 867

GLM 5.3 已上线 DigitalOcean AI 推理云平台:Agent 任务的高性价比底座来了

GLM-5.3-Flash 已上线 DigitalOcean AI 推理云平台:3200 亿参数、每 Token 仅激活 180 亿参数,支持 100 万 Token 上下文与原生图像/视频输入。DigitalOcean 调用价格低至每百万输入 Token 0.15 美元,并支持统一 API、多模型路由与模型评估。Z.ai 最新发布的现已上线,开发者可以直接通过调用,无需自己部署和维护 GPU 推理集群。如果你之前关注过 OpenRouter 和 OpenCode 上那个没有公开身份的。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1017

25 万条数据只花 7.04 美元,LLM 批量推理到底有多省?

25 万次请求被拆分成 7 个批量推理工作,全部完成且 0 失败;99.99% 的返回结果符合 JSON Schema,模型与数据集自带产品标签的一致性达到 83.6%。最大的推理任务每个包含 40,000 次请求,完成时间为 1.4~2.2 小时,远低于 24 小时的 Completion Window。一个包含 25,000 次请求、使用 Claude 模型的批量推理任务只用了 17 分钟。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1563

面向 AI 工作负载,单核性能提升 30%:DigitalOcean v5 Droplets 云服务器正式上线

DigitalOcean 云平台正式推出。这是新一代计算实例,基于第 5 代 AMD EPYC™ 处理器打造。v5 Droplets 云服务器专为高性能工作负载设计,包括计算密集型 Agentic AI 平台、AI/ML 工具、高吞吐量音视频转码,以及高流量的分布式 Web 应用和 API。与上一代 Droplets 云服务器相比,v5 Droplets 云服务器的。同时,这也是 DigitalOcean 首次允许用户分别选择 vCPU、内存和存储容量,并只为实际选择的资源付费。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1011

DigitalOcean 推理路由器新增缓存感知能力:为什么最便宜的模型不一定最省钱

Coinbase CEO Brian Armstrong 最近提出了一个问题,也是所有正在扩大 AI 使用规模的企业都在面对的问题:当 Token 用量呈指数增长时,怎样才能让 AI 支出保持基本不变?这并不是一个假设场景,而是各行各业的企业正在真实面对的问题:限制用量确实可以帮助控制账单,但也会同时限制真正有价值的工作。更好的办法,是通过更合理的默认模型、更智能的模型选择,以及针对具体工作负载更充分地利用缓存,改善每一次请求的成本结构。现在,DigitalOcean 推理路由器正式加入缓存感知(Cache

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 215

2026 LLM 成本计算指南:Token 价格、推理费用与降本方法

根据 2026 年的调查数据,去年接近四分之三的企业都出现了 AI 成本超出预算的情况。造成这一差距的一个重要原因,就是很多团队在工作负载进入生产环境之前,没有先做好准确的 LLM 成本测算。从价格表上看,Token 定价似乎很简单,无非就是每百万 Token 几美元,但真正的成本取决于工作负载上线后到底怎么运行。真实用户的提问和模型回答,长度往往和测试阶段的几个 Sample Prompt 不一样,可能更长,也可能更短。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 1432

Qwen3.8-2.4T-A95B 部署与性能解析:DigitalOcean 无服务器推理实测

Qwen3.8-2.4T-A95B 是阿里云在 2026 年 8 月发布的旗舰级开源大语言模型。它是从 Qwen3.8-Max 旗舰模型衍生而来的开放权重纯文本版本,采用混合专家架构,总参数量 2.4 万亿,每个 Token 大约激活 950 亿参数,主要面向编程、工具调用和长周期 Agent 任务。在 DigitalOcean 上,它以纯文本输入、纯文本输出的形式提供。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 871

多模型路由怎么选?2026 年 4 款主流方案对比

多模型路由位于应用和语言模型之间,负责决定每一个进入系统的请求应该交给哪个模型处理。在构建LLM 应用时,通常不存在一个模型能够在成本、延迟、推理、编程、视觉和 Tool Calling 等所有维度同时做到最好。如果应用直接调用一个固定模型,那么无论请求简单还是复杂,都只能使用同一种模型能力和价格。应用 → 多模型路由层 → 选择模型 → 执行请求 → 返回统一响应路由层先分析 Prompt 或匹配预设规则,再从候选模型中挑选更适合当前任务的模型,把请求发送出去,并以一致格式返回结果。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 866

Qwen 3.8 已上线 DigitalOcean AI 推理云平台

阿里通义千问新一代旗舰模型现已上线,并可通过直接调用。根据官方所说,这次上线的并不是一款“小修小补”的 Qwen 模型。Qwen3.8-2.4T-A95B 采用,每次推理激活约 950 亿参数,重点面向长上下文、AI 编程以及 Agent 智能体等复杂工作负载。尤其值得注意的是,它最高支持,在代码、工具调用和智能体任务上的表现已经进入当前前沿大模型梯队,而 DigitalOcean 上的调用价格为。单看价格,Qwen 3.8 未必是市场上最便宜的选择。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 223

AI Agent 性能优化:如何用无服务器推理降低延迟、提升响应速度?

如果你已经针对自己的业务场景 Fine-tune 了模型,并且拥有自己的权重,那么就需要一个地方来部署它。第四种是。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 713

AI 应用成本怎么算?从推理费用到完整 TCO 拆解

Token 价格比较,不等于 TCO 比较。一套完整 AI 应用最终比单纯的推理账单贵多少,取决于它是怎么搭出来的。在前面的自下而上模型中,一个集中在单一平台上的 RAG 技术栈,总成本约为推理费用的1.24 倍;而完全相同的工作负载拆到两个平台之后,总成本会达到推理费用的2.9 倍。两者之间的差距全部来自计算、存储、网络、数据库、数据出站和运维成本。而这些项目,没有一个会出现在 $/百万 Token 的价格表中。$67,727/月$84,827/月(高 25%)$110,337/月。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 640

多款模型最高直降 50%:DigitalOcean 无服务器推理大降价

这里给一些还不太熟悉 DigitalOcean 云平台的用户介绍一下。DigitalOcean 无服务器推理是一项托管式模型推理服务。开发者可以直接通过 API 调用基础模型,不需要购买 GPU、部署推理框架,也不需要自己处理扩缩容、模型升级和底层基础设施运维。目前,DigitalOcean Inference 提供 70 多款模型。简单来说,它把“搭建并维护一套大模型推理服务”变成了“调用一个 API”。Serverless Inference 按实际使用量计费。

了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识,以及DigitalOcean云平台使用教程 905
上一篇: Qwen3 不同版本需要什么 GPU?以及如何部署?
下一篇: 巧用 MCP 服务器,让你几分钟从 Prompt 到应用部署
卓普云
卓普云 卓普云 卓普云
博客等级 码龄3年 3136粉丝 304原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值