JulyLi2019的博客

本文记录了在海光DCU机器上部署深度学习开发环境的完整流程。首先介绍了DCU作为海光信息推出的GPU架构协处理器产品，其基于DTK计算平台兼容ROCm生态的特点。部署过程包括：1）安装Ubuntu22.04基础环境及DTK-25.04依赖包；2）安装DCU加速卡驱动并重启；3）配置Docker环境，通过光源或本地加载获取PyTorch镜像；4）创建支持DCU的Docker容器并进行验证。作者指出PyTorch代码可无缝移植，但推理速度较NVIDIA TensorRT仍有差距，建议后续研究海光自研的MIGra

本文介绍了在华为昇腾AI硬件上部署Qwen2.5-VL-7B大语言模型的完整流程。首先在Atlas 300I Duo推理卡和Kylin V10系统上安装驱动、固件及MindIE软件包；接着通过Docker容器部署MindIE服务，配置模型权重路径和NPU设备参数；最后测试验证了模型的语言生成和图像理解能力。该方案为国产化AI部署提供了实践参考，展示了昇腾硬件对大模型推理的高效支持能力。

本文记录海思3559 yolov5 wk模型部署的具体过程，成功生成了可执行文件，后面就可以在板端进行运行测试！！

目前项目需要在海思3559上开发，但查了相关文档，感觉还是比较复杂的。相比于3403、3519的使用atc工具直接从onnx->om，3559需要从onnx->caffer->wk则显得复杂许多，特此记录一下。海思3559是早些年的芯片，因此在模型转换的方式上相比于3403、3519的使用atc工具直接从onnx->om，3559需要从onnx->caffer->wk则显得稍显复杂。本文记录了yolov5模型由pt->onnx->caffe->wk的过程，希望对读者有所帮助。

本篇文章可以算是昇腾系列的一个入门样例，跑通了应该就能知道大概的操作流程，接下来应该又是一段难忘的开发心路历程，希望自己挺住！！！！！2023年11月24日14:55:12。