
Ascend训推
文章平均质量分 81
AI模型在昇腾芯片的训推技术
有来有去9527
这个作者很懒,什么都没留下…
展开
-
LLM训推适配-[昇腾910B]-qwen2.5精度测试+高效推理
昇腾部署qwen2.5大模型,以及相关适配验证。原创 2024-10-17 16:41:20 · 3722 阅读 · 9 评论 -
LLM训推适配-[昇腾910B]-大模型量化推理-qwen2-72B
大模型量化原创 2024-09-04 20:03:19 · 1755 阅读 · 1 评论 -
LLM训推适配-[昇腾910B]-Qwen1.5-72B模型SFT
昇腾硬件大模型训练迁移。原创 2024-09-03 11:57:28 · 1333 阅读 · 1 评论 -
昇腾平台LLM pytorch推理环境搭建
当前用户下执行npu-smi info是否可以查看到gpu信息,如果不能,则表示驱动安装错误,需要在安装命令加上 --install-for-all。检查NPU是否正常在位可执行lspci | grep d802命令,如果服务器上有 N路NPU,回显N行含“d802”字段,则表示NPU正常在位。资源下载地址:https://www.hiascend.com/developer/download。通过执行npu-smi info命令查看。支持的PyTorch版本。支持的Adapter版本。原创 2023-11-23 18:06:01 · 4549 阅读 · 3 评论