澎峰科技计算软件栈与沐曦GPU完成适配和互认证

部署运行你感兴趣的模型镜像

近期,澎峰科技与沐曦完成了对PerfXLM(推理引擎)、PerfXCloud(大模型服务平台)与沐曦的曦云系列通用计算GPU的联合测试,测试结果表明PerfXLM、PerfXCloud软件与沐曦GPU产品实现了全面兼容

  • PerfXLM高性能大模型推理引擎与沐曦GPU硬件平台完成适配,PerfXLM采用云边端一体架构,支持云端和本地大模型推理。经过双方联合测试,PerfXLM对沐曦GPU硬件平台的兼容性、稳定性和可靠性上取得极大领先,部分指标实现了对NVIDIA A100的反超。PerfXLM 针对部分大模型的计算性能优化成果堪称卓越,多个主流模型在在该平台的推理总吞吐速度实现了最高达到50%的性能提升。标志着双方在CUDA生态兼容上实现再次突破。

图片

  • PerfXCloud大模型服务平台与沐曦的GPU硬件平台完成适配,并完成了超80种大模型的推理、微调(包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等)支持,兼容性在国内处于领先地位。未来,双方将不断丰富模型仓库,以满足多样化的应用需求,为用户提供更优质和便捷的模型服务,帮助智算中心升级进化为超级AI Foundry。

图片

此次合作,为国产计算软硬融合和产业链合作建立了示范。未来,双方将以市场需求为导向,共同探索更多可能性,为实现大模型人工智能技术的自主可控和可持续发展贡献力量。

您可能感兴趣的与本文相关的镜像

PaddlePaddle-v3.3

PaddlePaddle-v3.3

PaddlePaddle

PaddlePaddle是由百度自主研发的深度学习平台,自 2016 年开源以来已广泛应用于工业界。作为一个全面的深度学习生态系统,它提供了核心框架、模型库、开发工具包等完整解决方案。目前已服务超过 2185 万开发者,67 万企业,产生了 110 万个模型

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值