亚马逊云科技与英伟达携手开发下一代基础设施,助力大型机器学习模型训练和生成式AI应用程序构建(第三部分)

P5实例是基于英伟达H100GPU的高性能计算平台,提供16petaFLOPs的混合精度性能和640GBGPU内存,加速机器学习模型训练,减少训练时间至数小时,降低成本40%,适用于复杂LLM和计算机视觉应用。

新的超级计算集群

新的 P5 实例构建于亚马逊云科技和英伟达十多年来在 AI 和 HPC 基础设施交付方面的合作基础之上,也立足于双方在 P2、P3、P3dn 和 P4d(e)前四代实例方面的合作。P5 实例是基于英伟达 GPU 的第五代亚马逊云科技产品,与最初部署的英伟达 GPU(始于 CG1 实例)已相隔近 13 年。

P5实例非常适合对日益复杂的 LLM 和计算机视觉模型进行训练和运行推理,并应用于要求严苛的计算密集型生成式 AI 应用程序,包括问题回答、代码生成、视频图像生成和语音识别等领域。

对于致力于以可扩展和安全的方式将 AI 赋能的创新推向市场的企业和初创公司而言,P5 实例是不二之选。P5 实例采用 8 个英伟达 H100 GPU,能够在一个Amazon EC2 实例中实现 16 petaFLOPs 的混合精度性能、640 GB 的高带宽内存和3200 Gbps 的网络连接(比上一代实例高出 8 倍)。P5 实例性能的提升使机器学习模型训练时间加快了 6 倍(将训练时间从数天缩短到数小时),额外的GPU内存可帮助客户训练更庞大更复杂的模型。预计P5实例的机器学习模型训练成本将比上一代降低 40%。相比灵活性较差的云产品或昂贵的本地系统,它为客户提供了更高的效率。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值