新的超级计算集群
新的 P5 实例构建于亚马逊云科技和英伟达十多年来在 AI 和 HPC 基础设施交付方面的合作基础之上,也立足于双方在 P2、P3、P3dn 和 P4d(e)前四代实例方面的合作。P5 实例是基于英伟达 GPU 的第五代亚马逊云科技产品,与最初部署的英伟达 GPU(始于 CG1 实例)已相隔近 13 年。
P5实例非常适合对日益复杂的 LLM 和计算机视觉模型进行训练和运行推理,并应用于要求严苛的计算密集型生成式 AI 应用程序,包括问题回答、代码生成、视频图像生成和语音识别等领域。
对于致力于以可扩展和安全的方式将 AI 赋能的创新推向市场的企业和初创公司而言,P5 实例是不二之选。P5 实例采用 8 个英伟达 H100 GPU,能够在一个Amazon EC2 实例中实现 16 petaFLOPs 的混合精度性能、640 GB 的高带宽内存和3200 Gbps 的网络连接(比上一代实例高出 8 倍)。P5 实例性能的提升使机器学习模型训练时间加快了 6 倍(将训练时间从数天缩短到数小时),额外的GPU内存可帮助客户训练更庞大更复杂的模型。预计P5实例的机器学习模型训练成本将比上一代降低 40%。相比灵活性较差的云产品或昂贵的本地系统,它为客户提供了更高的效率。
P5实例是基于英伟达H100GPU的高性能计算平台,提供16petaFLOPs的混合精度性能和640GBGPU内存,加速机器学习模型训练,减少训练时间至数小时,降低成本40%,适用于复杂LLM和计算机视觉应用。
&spm=1001.2101.3001.5002&articleId=130135582&d=1&t=3&u=588e72b9c5ba4f0694c7e78a000e0a73)

被折叠的 条评论
为什么被折叠?



