DigitalOcean Kubernetes引入NVIDIA H100 GPU，助力 AI/ML 创新

于 2024-09-04 14:00:17 发布
阅读量754 收藏 5
点赞数 4
CC 4.0 BY-SA版权
分类专栏： 产品 文章标签： kubernetes 人工智能 容器 服务器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/DO_Community/article/details/141892077

DigitalOcean 现在宣布，DigitalOcean Kubernetes 托管服务（DOKS）现已推出支持 GPU 的早期体验版工作节点，这些节点配备了 NVIDIA 最新的 H100 GPU。这项强大的新产品将推动 AI/ML 开发在 Kubernetes 环境中的普及，让不同发展阶段和团队规模的企业都能接触到这些领先的技术资源。

DigitalOcean 的早期体验版提供了 H100 x1 或 H100x8 节点可供选择。

AI 与模型开发在容器化环境中的挑战

在当今这个由 AI 驱动的世界里，组织越来越多地依靠数据来获得实际可用的信息，以指导他们的决策和行动。然而，AI、大语言模型开发的复杂性和资源需求，特别是在容器化环境中，带来了重大挑战。许多企业由于 AI、大语言模型研发的高成本和技术障碍，难以充分利用其数据。

DigitalOcean 作为行业领先的云服务提供商，能够深刻理解这些挑战，并致力于提供可以简化和加速创新的解决方案。DigitalOcean 为 DOKS 设计的 GPU 工作节点旨在消除这些障碍，为渴望在其 Kubernetes 集群中利用AI、大语言模型力量的企业提供一个可扩展、可访问且具有成本效益的解决方案。

使用GPU支持的工作节点可以实现的成果

DigitalOcean 的

最低0.47元/天 解锁文章
博客
大流量业务云主机选型：AWS、Oracle、DigitalOcean、Linode、阿里云深度对比
07-04 1007
数字化增长时代，选对海外云基础设施是成败分水岭。无论你正在运营一款广告平台、实时推荐引擎，还是跨境电商服务，找到既能满足大流量业务需求，又能兼顾可控成本的云主机，都是长期竞争力的关键。在众多选择中，DigitalOcean以其简洁、清晰和可靠的特性，越来越多地成为开发者和高流量业务团队的信赖之选。未来，当你再为“怎么兼顾性能与成本”而头疼时，不妨把它列入你的重点备选清单。
博客
海外 AI 部署：中国出海企业如何选择稳定、安全的云 GPU 基础设施？
06-27 1499
AI 出海，听起来是技术全球化，其实落地就是资源全球化。模型是否稳定运行、服务是否响应快速、部署是否合规安全，这些都取决于背后的基础设施选型。与其在功能复杂、价格高昂的大平台中挣扎，不如试试像 DigitalOcean 这样的更轻量、更聚焦、更适配出海业务的云 GPU 平台。训练成本已经压缩到了万元以内，是时候让部署成本也“配得上”国产大模型的潜力了。如需进一步了解详情，可直接点击下方链接联系DigitalOcean中国区独家战略合作伙伴卓普云。
博客
MI300X vs H100：DeepSeek 部署在哪个 GPU 上性价比最高？
06-25 1745
从 DeepSeek 不同版本的实际资源需求出发，结合这两款 GPU 的性能和定价，来分析一下在哪些使用场景下选择 MI300X 更划算，而哪些情况下用 H100 更值得。
博客
DigitalOcean 助力 SonarHome 实现房地产平台AI智能化升级
06-24 695
SonarHome 是一家通过 AI 驱动的在线平台，提供免费房屋估价并直接或通过合作中介帮助用户快速、安全地出售公寓。SonarHome 由首席执行官 Mateusz Romanowski 和首席技术官 Piotr Chmolowski 于 2019 年联合创立。Mateusz 本身是一位成功的创业者，在波兰华沙购买人生第一套房产的过程中，他亲身体会到房地产行业亟需创新。于是，他与 Piotr 一同开发了一款工具，为东欧地区的购房者提供准确的房屋估值服务。
博客
做大模型训练与AI推理，GPU服务器哪个便宜好用？
06-24 892
无论是需要训练千亿参数级的大型语言模型（LLM），还是运行对成本敏感的高效推理任务，高性能且易于管理的GPU资源是你成功的基石。DigitalOcean是海外知名的上市云服务平台，除了提供常见的云服务产品，还汇集了行业领先的AMD和NVIDIA的顶尖GPU产品。选择DigitalOcean的GPU Droplet，你不仅获得了强大的硬件，更享有便捷、灵活且安全的一站式云服务体验。对于需要高效推理、图形渲染或虚拟工作站，同时又对成本敏感的项目，以下GPU Droplet提供卓越的性能与价值平衡。
博客
利用HuggingFace一键模型部署功能，快速构建语音助手
06-18 1339
1-Click Models（即一键模型部署功能）是由DigitalOcean与Hugging Face联合推出的新方案，旨在通过云端最强大的GPU轻松调用顶尖开源大语言模型（LLMs）。用户无需复杂配置即可直接使用最佳模型。本教程将指导您开发一个支持语音功能的个人助手应用，该应用基于Gradio框架并集成FastAPI。您将学习如何：wp:list/wp:list。
博客
DigitalOcean 携手 AMD 推出 AMD Instinct™ MI300X GPU Droplet，加速 AI 创新
06-18 731
近日，DigitalOcean（NYS:DOCN）作为全球最简单易用的可扩展云平台，宣布与 AMD 建立合作，为 DigitalOcean 客户提供 AMD Instinct™ GPU，以 AMD Instinct™ MI300X GPU Droplet 的形式支持其 AI 工作负载。此举将能更好地推动人工智能（AI）、机器学习（ML）和高性能计算（HPC）领域的发展。
博客
如何优雅地玩转 AIGC？DigitalOcean 开发者沙龙全记录
06-11 1615
摘要：6月7日，卓普云与DigitalOcean在北京联合举办首届"AIGC开发者沙龙"，聚焦AI训练与推理技术。活动邀请5位行业专家分享：JuiceData介绍分布式存储系统在AI全流程的应用；商汤科技探讨企业级RAG性能优化方案；WaveSpeedAI展示多模态生成引擎技术；NebulaGraph讲解GraphRAG构建知识库；DigitalOcean专家解析AI算力架构设计。100余位从业者参与交流，共同探讨AI开发实践与前沿趋势。
博客
巧用 MCP 服务器，让你几分钟从 Prompt 到应用部署
05-21 3036
MCP 是 Model Context Protocol（模型上下文协议）的缩写。它是一种让基于大语言模型（LLM）的工具（如 Claude 或 Cursor）能够安全地与外部服务通信并执行实际操作的方法。LLM 擅长处理“文字”——它可以总结、解释、改写文本。但如果没有帮助，它自己是无法“做事”的。比如它不能自动帮你部署应用、查询数据库，或者回滚失败的版本。而 MCP 就是这个“帮助”。它是一个开放协议，定义了工具如何以一种可预测、结构化的方式向 AI 模型暴露能力。
博客
教程：通过 Droplet 自动伸缩池实现工作负载自动扩展
05-20 979
在本教程中，你将通过实际示例了解自动伸缩的重要性，学习如何使用 DigitalOcean 用户界面 (UI) 和命令行界面 (CLI) 设置 Droplet 自动伸缩池，配置伸缩规则和阈值，优化自动伸缩的最佳实践，监控性能和基准测试伸缩效率，进行负载测试以模拟真实的流量高峰并观察自动伸缩的实际效果，确定正确的自动伸缩池大小，以及有关 DigitalOcean 自动伸缩的常见问题解答。通过遵循本教程，你可以有效地配置自动伸缩、优化性能，并在无需人工干预的情况下确保流量高峰期间的平稳运行。
博客
Qwen3 不同版本需要什么 GPU？以及如何部署？
05-12 4811
Qwen3是一个特别令人兴奋的模型，因为它能够在思考和非思考模式之间无缝切换，并具有创新的代理能力。我们期待看到越来越多像Qwen3这样的模型发布，以进一步推动大型语言模型的发展。最后，如果你在寻找价格实惠、计费透明、性能稳定且开发者友好的GPU服务器，​ 欢迎进一步了解DigitalOcean GPU Droplet，详情可点击下方链接咨询DigitalOcean中国区独家战略合作伙伴卓普云AI Droplet。​。
博客
从7B到671B：DeepSeek R1大模型微调的GPU选型终极指南
05-08 3136
当 DeepSeek R1 系列以 7B 到 671B的参数跨度构建起完整技术栈时，微调场景的硬件选择已演变为一场精密的数学游戏。以 FP16 精度计算，7B 模型微调需要至少 14GB显存（含优化器状态），而 671B 版本则需要惊人的 3TB 级存储空间。这种指数级增长不仅考验硬件工程师的决策能力，更揭示了算力投资的核心法则：选错 GPU 的代价，远不止于训练失败——轻则增加 30% 推理延迟，重则造成百万级硬件成本的浪费。
博客
企业出海降本：如何将应用从 AWS EC2 快速无缝迁移至DigitalOcean Droplet
04-29 3151
在本教程中，我们已经带着你一步步将运行中的应用从 AWS EC2 迁移到 DigitalOcean Droplet —— 从评估现有环境、创建和配置 Droplet，到传输文件和数据库、测试和更新 DNS，实现最小化停机时间的平滑切换。此过程能帮助你降低云成本、简化基础设施管理，并获得更灵活的部署环境。无论是独立项目还是生产级应用，迁移到 DigitalOcean 都能让你享受面向开发者的简洁定价和现代化体验。每个应用栈各有差异，可能需要根据具体情况添加额外步骤。
博客
DigitalOcean推出Valkey托管缓存服务
04-27 488
今天我们激动地宣布推出DigitalOcean的Valkey托管缓存服务，这是我们全新的托管数据库服务，能够无缝替换托管缓存（此前称为托管Redis®）。Valkey托管缓存服务在你一直依赖的功能基础上，还提供了增强工具来支持你的开发需求。wp:heading。
博客
DeepSeek R1模型微调怎么做？从入门到实战
04-21 3115
微调是将预训练模型转变为能够解决具体问题的精准工具的关键过程。在这个过程中，我们并不是在“重新发明轮子”，而是在对其进行精准调校，让它更好地为我们的目标服务。虽然预训练模型功能强大，但它们的输出往往缺乏结构性和专业度，而微调正是解决这一问题的关键。我们希望本教程不仅帮助你理解了何时以及如何使用推理模型进行微调，也为你今后更深入地打磨这项技术提供了一些灵感。
博客
教程：无需代码，跨境电商如何在指纹浏览器快速配置 IP
04-17 2251
尽管面临关税风暴等挑战，中国一季度出口规模依然突破了 6 万亿元，实现了 6.9% 的增长。这一数据不仅展示了中国出口的强大韧性，也为跨境电商行业注入了一剂强心针。在全球化电商蓬勃发展的今天，跨境电商已成为众多商家拓展业务版图的重要途径。然而，对于许多不熟悉技术细节的商家而言，如何拥有成本低、稳定的海外 IP ，是很多跨境电商人在使用指纹浏览器的时候的一大难题。
博客
如何在AMD MI300X 服务器上部署 DeepSeek R1模型？
04-11 2953
这些改进将进一步释放MI300X的潜力，为AI推理带来更强大的性能。目前，企业除了可以从AMD官方预定MI300X以外，还可以通过云平台来使用MI300X，例如DigitalOcean 最新推出的基于MI300X的GPU 裸金属服务器（具体详情可咨询。MI300X的高内存带宽和容量优势，使Chain of Thought（CoT）推理能更快速、高效地访问大内存，支持实际应用中更长序列的处理。用户通过SGLang优化，将MI300X的性能提升至初始版本的4倍，且更多优化将在未来几周内集成到开源代码中。
博客
Ex-Human：在DigitalOcean云平台之上，构建下一代 AI 数字人
04-11 601
正在通过创造极具吸引力和富有同理心的人工智能角色，重新定义人们与人工智能的互动方式。该公司由 Artem Rodichev 创立，让用户能够通过文本、图像、视频和音频创建能互动的独一无二的数字人物。凭借每月超过一百万的活跃用户和五百万个定制创建的角色，Ex-Human 正在迅速塑造人工智能驱动的陪伴关系的未来。Ex-Human 的创业初心是受到了电影《她》和《银翼杀手2049》的启发。这些电影让 Rodichev 相信富有同理心的人工智能将很快成为日常生活的一部分。
博客
Next.js + Droplet：高并发视频内容平台部署与优化扩展实战
04-10 997
DigitalOcean Droplet 是一个基于 Linux 的虚拟机（VM），运行在 DigitalOcean 的云基础设施上。可以将它看作是您在云端的虚拟服务器，可以独立使用，也可以作为更大的云基础设施的一部分使用。每个 Droplet 都是一个完全功能的服务器，拥有自己的 CPU、RAM 和 SSD 存储。您可以根据需求选择各种配置（大小），从基础型（basic）的 1GB RAM / 1 vCPU 设置到性能更好的 32GB RAM / 16 vCPU 机器。
博客
DigitalOcean 发布 AMD Instinct MI300X GPU 裸金属服务器
04-03 2316
AMD Instinct MI300X GPU 旨在通过紧凑高效的设计，提升 AI 和 HPC 计算能力。这些下一代 GPU 现已在 DigitalOcean 上提供，采用单租户裸金属配置，适用于需要更高控制力和计算能力的客户。MI300X 通过每个节点八块 GPU、高计算单元数量和 HBM3 内存容量，提供强劲的加速性能。此外，ROCm 开发者资源支持多个 AI 和 HPC 框架、领先的软件平台和模型，以及开放、成熟的软件生态系统中的网络基础架构，使你的部署更快、更高效。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值