昇腾AI处理器软件栈--神经网络软件架构

原创 于 2019-11-28 14:07:02 发布 · 3.3k 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#昇腾 #人工智能 #神经网络 #深度学习 #华为云

昇腾AI软件栈为神经网络应用提供从模型到执行的完整解决方案，包括流程编排、数字视觉预处理、张量加速等关键组件，助力AI应用高效开发。
部署运行你感兴趣的模型镜像

1574820234213560.png

为完成一个神经网络应用的实现和执行，昇腾AI软件栈在深度学习框架到昇腾AI处理器之间架起了一座桥梁，为神经网络从原始模型，到中间计算图表征，再到独立执行的离线模型提供了快速转化的捷径。昇腾AI软件栈围绕离线模型的生成、加载和执行，聚集了流程编排器、数字视觉预处理模块、张量加速引擎、框架管理器、运行管理器和任务调度器等功能块形成了一个完整的功能集群。

  • 流程编排器负责完成神经网络在昇腾AI处理器上的落地与实现，统筹了整个神经网络生效的过程。

  • 数字视觉预处理模块在输入之前进行一次数据处理和修饰，来满足计算的格式需求。

  • 张量加速引擎作为神经网络算子兵工厂，为神经网络模型源源不断提供功能强大的计算算子。

  • 框架管理器将原始神经网络模型转换成昇腾AI处理器支持的形态，并且将转换的模型与昇腾AI处理器相融合，引导神经网络运行并高效发挥出性能。

  • 运行管理器为神经网络的任务下发和分配提供了各种资源管理通道。

  • 任务调度器作为一个硬件执行的任务驱动者，为昇腾AI处理器提供具体的目标任务。运行管理器和任务调度器联合互动，共同组成了神经网络任务流通向硬件资源的大坝系统，实时监控和有效分发不同类型的执行任务。

总之，整个神经网络软件为昇腾AI处理器提供一个软硬件结合且功能完备的执行流程，助力相关AI应用的开发。

 

作者：Torrenza

您可能感兴趣的与本文相关的镜像

ComfyUI

ComfyUI

AI应用
ComfyUI

ComfyUI是一款易于上手的工作流设计工具，具有以下特点：基于工作流节点设计，可视化工作流搭建，快速切换工作流，对显存占用小，速度快，支持多种插件，如ADetailer、Controlnet和AnimateDIFF等

博客
版本速递 | 华为云Versatile智能体平台 新增特性介绍（2025年11月发布）
12-03 527
应用管理支持单智能体应用、工作流应用发布为网页，可分享使用；并增加资源配置业务价值：通过一键发布，支持在web端快捷访问智能体应用；可通过链接形式将Agent分享给他人体验，极大提升AI Agent的对外分享能力与成果使用率。
博客
基于华为开发者空间开发平台-云开发环境（容器），完成贪吃蛇小游戏开发
11-21 1025
本案例基于华为开发者空间开发平台-云开发环境（容器），完成Python贪吃蛇小游戏开发。
博客
基于华为开发者空间-云开发环境（容器）+MaaS大模型构建智能写作助手应用
11-21 759
本案例基于华为开发者空间-云开发环境（容器）+MaaS大模型，构建智能写作助手应用。
博客
基于华为开发者空间-云开发环境（容器）+ Versatile Agent，构建AI轻量级智能办公助手
11-21 793
基于华为开发者空间-云开发环境（容器）+ Versatile Agent，快速构建并集成一个轻量级智能办公助手Agent到模拟OA系统中。
博客
基于华为开发者空间Notebook，Tensorflow + Fashion MNIST构建CNN实现智能衣柜服装分类系统
11-20 1046
本案例基于开发者空间 - AI Notebook，使用Fashion-MNIST数据集，构建了一个智能衣柜服装分类系统，展示了深度学习技术在实际生活场景中的应用价值。系统采用卷积神经网络（CNN）架构，实现了对10类服装物品的精准识别，准确率达到93.75%。
博客
华为云王泽锋荣获 CNCF 终身成就奖，开源精神引领云原生未来
11-13 1116
华为云提供业界最完整的容器产品矩阵，并率先发布CCE Turbo、CCE Autopilot、云容器实例 CCI 以及分布式云原生服务UCS等多款容器创新产品，连续5年蝉联中国容器软件市场份额第一（IDC 2024），入选Gartner®《2025容器管理魔力象限》领导者。2024 年，王泽锋高票当选 CNCF TOC （Technical Oversight Committee）委员，并于 2025 年 5 月成功当选 TOC 副主席，为云原生社区提供技术领导，引领全球云原生技术方向。
博客
深化产教融合，共育数字人才！华为云HCSD校园沙龙活动走进湖北工程学院
11-13 298
华为云在湖北工程学院举办HCSD校园沙龙活动，通过主题分享、技术展示和实操训练，搭建校企协同育人平台。活动聚焦ICT领域前沿技术，包含鸿蒙开发、AI应用等核心内容，并设置微认证实践环节，帮助学生掌握数字技能、明确职业方向。校方与企业代表强调产教融合对培养数字人才的重要性，现场学生积极参与互动和实操训练。
博客
金砖大赛-第二届鸿蒙端云智能应用开发赛项预选赛-桂林学院站圆满落幕
11-11 390
本赛项紧跟“鸿蒙 端云 智能”这一前沿领域，聚焦移动应用开发，依托HarmonyOS（鸿蒙操作系统）为底座，突出考查参赛者鸿蒙应用开发和Agent发布及调用的基本流程，完成在鸿蒙生态下一个完整的作品的开发全流程。首先，他对各位领导和参赛者的到来表示热烈的欢迎，强调桂林学院始终重视信息工程领域的教学建设与人才培养，而本次赛事正是检验学生实践能力、推动学科发展的重要契机，不仅能帮助学子以赛促学、提升专业素养，更能为高校与行业对接搭建桥梁，助力青年成长为符合产业需求的技能人才。
博客
华为云HCSD校园大使撒播技术火种，携手华为开发者空间点燃“百团大战
11-06 1083
如今，作为HCSD校园大使的她，正在社团招新现场，向同学们展示华为开发者空间的技术实践，她详细介绍了华为云如何通过弹性云主机服务帮助学生搭建远程开发环境以及空间承载的人工智能、大数据等前沿领域开发资源，让同学们能够将创意构想转化为实际技术成果。本次活动打破了“单一场景覆盖有限”的局限，将华为开发者空间与学生“学习（课堂、班会）+实践（社团）”需求深度绑定，他主动联动专业教师，将华为开发者空间的相关内容融入课堂教学场景，助力大家将理论知识与实操应用深度结合，夯实技术实践能力。
博客
2025年11-12月华为云线上师资培训通知
11-05 1063
是为全球开发者打造的专属云上成长空间，汇聚昇腾、鸿蒙、鲲鹏等华为根技术，为开发者提供180小时免费算力资源，整合云上AI开发工具链及配套技术案例，打造开发者智能AI应用开发平台。在数字经济时代，人工智能、鸿蒙等技术飞速发展，创新应用不断涌现，掌握前沿技术已经成为高校教育发展的关键。融入高校教学体系，推动人工智能、鸿蒙、数据库等领域生态发展，华为联合“信息技术新工科产学研联盟”拟于。培训课程将以理论内容搭配实验案例实操，教师学习理论知识，同步实践操作，保障教师深入理解新技术知识。
博客
产品体验官有奖招募 | 体验华为云Versatile智能体平台构建创意AI Agent
11-05 883
为了让Versatile产品能力更贴合用户应用场景、进一步满足用户需求、提升体验，我们发起本次产品体验官招募活动，邀请各位有热情、有想法的开发者们加入Versatile智能体平台体验官阵营，提出真实的产品改进意见，以帮助产品开发和优化迭代。Versatile智能体平台是华为云在本年度重磅推出的一站式企业级智能体构建平台，面向企业AI+转型、软件及解决方案提供商、独立开发者等多角色多场景，使能高效开发Agent，将“人人都能构建自己的企业级智能体”产品愿景照进现实。，截图体验完成的实际截图，并说明体验感受。
博客
华为开发者名校行携手南开大学，深耕 AI 时代人才培养
11-04 981
10月30日"华为开发者名校行・南开大学专场" 活动，在南开大学津南校区成功举办。技术分享和沉浸式实操体验精彩不断，将“育人才，创未来”的目标扎实落地。
博客
金砖大赛-第二届鸿蒙端云智能应用开发赛项预选赛-山东科技职业学院站圆满落幕
11-04 336
此外，夏志勇简单介绍了贯穿本赛项的两个平台，“华为云学堂”作为一站式成长平台，它集系统化课程、沙箱实验与华为云开发者认证于一体，提供从知识积累、动手实践到技能认证的全流程支持。未来，学校将继续深化产教融合、校企合作，积极拓展类似大赛这样的实践平台，希望同学们不仅能在大赛中提升技术能力，更能将所学所获转化为未来职业发展的核心竞争力。希望所有参赛者通过本次大赛能够实现以赛促学、以赛促练，通过本场大赛的历练，切实提升自身的技术能力、创新思维和团队协作精神，为未来的职业道路奠定更为坚实的基础。
博客
【新特性】 版本速递 | 华为云Versatile智能体平台 新增特性介绍（2025年10月发布）
10-31 1033
资产中心· MCP广场 新增80+官方预置MCP工具，总数累计达100业务价值：丰富MCP资产的类型与数量，开箱即用，降低开发门槛，为用户带来更流畅的开发体验。
博客
华为云 Serverless 云原生基础设施 | 极简体验，加速业务创
10-30 369
云原生加速向 Serverless 演进，业界将 Serverless 容器分为 Serverless Kubernetes 集群和 Serverless 器实例两种形态。华为云 Serverless 云原生基础设施致力于持续简化用户体验，帮助用户专注于构建应用程序，而无须管理集群以及资源，加速业务创新。​​本文分享自华为云社区《》，作者：云容器大未来。
博客
金砖大赛-第二届鸿蒙端云智能应用开发赛项首场预选赛-西安欧亚学院站圆满落幕
10-28 543
此外，赵水清简单介绍了贯穿本赛项的两个平台，“华为云学堂”作为一站式成长平台，它集系统化课程、沙箱实验与华为云开发者认证于一体，提供从知识积累、动手实践到技能认证的全流程支持。二是借比赛反推学习实践，既能提升水平，也能助力赛场出佳绩。另外，考生代表在赛后总结提到本次比赛使他们对技术的实际应用有了更全面的认识，更锻炼了他们从分析需求到最终优化的完整项目思维，极大地提升了知识应用的能力。希望通过本次大赛的举办，为同学们提供一个展示才华、切磋技艺的舞台，也为鸿蒙生态及智能产业的未来播下更多希望的种子。
博客
基于华为开发者空间云主机的软件安全栈溢出攻击实践
10-27 1059
本案例是在华为云主机(ARM+Linux(ubuntu 24.04 server定制版))下，进行软件安全的简单的经典栈溢出攻击实践。
博客
基于华为开发者空间，实现RFM分析与CLTV预测的电商客户细分与营销策略优化
10-27 1568
本案例将基于华为开发者空间，通过RFM分析与CLTV预测的结合，实现电商客户细分与营销策略优化。
博客
基于华为开发者空间云主机部署Typora高效内容创作，实现图片自动上传
10-24 946
本方案基于华为开发者空间 - 云主机环境，部署并配置 Markdown 编辑器 Typora 与 图床工具 PicGo，通过对接华为云对象存储服务 (OBS)，实现技术写作中图片的自动化上传与管理。
博客
基于华为开发者空间-云开发环境，Vanna+MaaS实现自然语言与数据库对话
10-24 889
本案例基于华为开发者空间开发平台 - 云开发环境，使用Vanna结合MaaS实现Vanna在HCE2.0开发环境进行本地部署，构建Text-to-SQL自然语言与数据库对话。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值