亚马逊云科技与英伟达携手开发下一代基础设施，助力大型机器学习模型训练和生成式AI应用程序构建（第二部分）

亚马逊云科技与英伟达联合打造基于HopperGPU的AmazonEC2P5实例，提供20exaFLOPS的计算性能，用于大规模训练和推理生成式AI。P5实例配备NVIDIAH100TensorCoreGPU和先进的EFA网络技术，可在AmazonEC2UltraCluster中扩展至2万个GPU，支持按需访问超级计算机级别的AI性能。

部署在 Amazon EC2 UltraCluster 中的新型 Amazon EC2 P5 实例经过充分优化，可以利用英伟达 Hopper GPU 加速生成式AI的大规模训练和推理

北京 —— 2023 年 3 月 22 日亚马逊旗下的亚马逊云科技和英伟达宣布了一项多方合作，致力于构建全球最具可扩展性且按需付费的人工智能（AI）基础设施，以便训练日益复杂的大语言模型（LLM）和开发生成式 AI 应用程序。

借助由 NVIDIA H100 Tensor Core GPU 支持的下一代 Amazon Elastic Compute Cloud（Amazon EC2）P5 实例，以及亚马逊云科技最先进的网络和可扩展性，此次合作将提供高达 20 exaFLOPS 的计算性能来帮助构建和训练更大规模的深度学习模型。P5 实例将是第一个利用亚马逊云科技第二代 Amazon Elastic Fabric Adapter（EFA）网络技术的 GPU 实例，可提供 3200 Gbps 的低延迟和高带宽网络吞吐量。因此客户能够在 Amazon EC2 UltraCluster 中扩展多达 2 万个 H100 GPU，满足按需访问超级计算机的 AI 性能需求。