【2023 · CANN训练营第一季】昇腾AI入门课(TensorFlow)之AscendCL快速入门

AscendCL是用于昇腾平台的C语言API库,专注于深度神经网络推理应用开发。它涉及运行资源管理,包括硬件资源指定、管理对象容器创建和Stream维护,以及内存管理,如内存申请、释放和数据传输。文章详细介绍了开发流程,包括环境准备、代码创建、模型构建、应用开发和编译运行。在多Device环境中,内存资源不共享。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

昇腾AI入门课(TensorFlow)之AscendCL快速入门

AscendCL(Ascend Computing Language)是一套用于在昇腾平台上开发深度神经网络推理应用的C语言API库。

在这里插入图片描述

1.基本功能

运行资源管理

​ a.指定硬件资源
​ b.创建管理对象容器
​ c.创建维护执行顺序的Stream

内存管理

​ a.申请各阶段数据的内存
​ b.释放内存
​ c.通过内存拷贝实现数据传输

2.运行资源管理

Host是指指与Device相连接的x86服务器、ARM服务器,会利用Device提供的NN(Neural-Network)计算能力,完成业务。
Device是指安装了芯片的硬件设备,利用PCIe接口与Host侧连接,为Host提供NN计算能力。若存在多个Device,多个Device
之间的内存资源不能共享。
在这里插入图片描述

3.开发流程

使用AscendCL接口开发应用的整体流程分为以下几个部分:

​ a.准备环境:提前部署昇腾A软件栈,以便后续编译、运行时使用;
​ b.创建代码目录:创建目录,存放代码文件、编译脚本、测试图片数据、模型文件等;
​ c.构建模型:模型推理场景下,必须要有适配异腾A处理器的离线模型(*.om文件);
​ d.开发应用:根据实际场景,开发用于图像/视频数据处理、推理、单算子调用等功能的应用:
​ e.编译及运行应用:编译代码生成可执行文件,运行可执行文件验证应用的功能;

编译及运行应用:编译代码生成可执行文件,运行可执行文件验证应用的功能;
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值