公有云中的AMD AI：优化成本和功耗提供更广泛的访问

公有云中的AMD AI：优化成本和功耗提供更广泛的访问

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， EPYC， Public Cloud Amd， Cost Optimization， Performance Optimization， Ai Inference， Cpu Offloading]

导读

人工智能和机器学习应用需要广泛的基础技术。在本次会议中，您将了解AMD的推理和训练产品组合，这些产品为大小模型提供卓越的性能和性价比，并探索AMD广泛的软件和解决方案生态系统。此外，AMD的合作伙伴Neural Magic展示了DeepSparse CPU推理优化技术如何为高需求的推理驱动应用提供成本效益、优化性能和能源效率。本次演讲由亚马逊云科技合作伙伴AMD为您带来。

演讲精华

以下是小编为您整理的本次演讲的精华。

Mike Thompson首先强调了AMD无处不在的存在，支撑着包括社交媒体、流媒体、搜索引擎、视频会议工具、协作平台和生产力软件等众多重要服务和应用。他阐述了AMD全面的数据中心产品组合，包括全球性能最高的数据中心处理器EPYC CPU、专为人工智能和高性能计算(HPC)加速而设计的Instinct GPU、用于卸载开销任务的网络解决方案和数据处理单元(DPU)、可现场可编程门阵列(FPGA)以及与传统硅刻蚀CPU不同的可重新配置自适应系统芯片(SoC)。

Mike强调了AMD在市场份额增长方面的卓越表现，公司在5年内就从CPU市场抢占了超过34%的份额，这一成就是在与一家强大的竞争对手的激烈竞争中取得的。这一成功归功于AMD EPYC处理器出色的性能和效率࿰