微软开发工具包打破NVIDIA护城河!AMD GPU可运行CUDA代码

部署运行你感兴趣的模型镜像

快科技11月9日消息,长期以来,NVIDIA凭借其强大的CUDA生态系统,在AI领域占据主导地位,而竞争对手如AMD的ROCm等相对不够成熟,不过这一格局正迎来新的破局者微软。

据一位“高级别”微软员工透露,其已开发出“工具包”,能够将NVIDIA CUDA模型转换或转译为ROCm兼容代码,使其能在AMD的GPU上运行。

此举旨在打破CUDA的“生态锁定”,为微软日益增长的AI推理工作负载寻找更具成本效益的替代方案。

微软此番行动的核心驱动力在于,他们观察到AI推理工作负载的需求正在大幅增加,与昂贵的NVIDIA GPU相比,AMD的AI芯片在推理场景中具备更佳的性价比。

通过软件转换,微软可以利用AMD的硬件优势来降低运营成本。

据推测,该工具包可能采用类似ZLUDA的运行时兼容层技术,在不修改源代码的情况下,将CUDA API调用实时翻译成ROCm指令。

不过由于ROCm相对“不成熟”,部分CUDA代码仍缺乏对应的映射,可能导致性能下降,这在大型数据中心环境中仍是一个挑战。

微软开发工具包打破NVIDIA护城河!AMD GPU可运行CUDA代码

微软开发工具包打破NVIDIA护城河!AMD GPU可运行CUDA代码

您可能感兴趣的与本文相关的镜像

PyTorch 2.9

PyTorch 2.9

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库,基于 Torch 库,底层由 C++ 实现,应用于人工智能领域,如计算机视觉和自然语言处理

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值