自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 收藏
  • 关注

原创 异构算子调度:CPU 与 NPU 的协同计算

异构算子调度是释放混合硬件算力的关键。通过智能的图切分、高效的内存管理以及异步执行机制,可以显著提升深度学习模型的推理效率。在 CANN 等 AI 框架中,这一机制通常由图优化器(Graph Optimizer)​ 和运行时调度器(Runtime Scheduler)​ 共同完成,对开发者透明,极大降低了应用开发的复杂度。相关资源:CANN 组织链接仓库链接。

2026-02-08 14:06:36 710

原创 算子库版本管理:ops-nn 的兼容性设计

本文探讨了深度学习框架中算子库的版本管理与兼容性设计,以CANN的ops-nn算子库为例。针对硬件迭代和算法演进带来的兼容性挑战,ops-nn采用语义化版本策略和分支管理架构,通过严格的CI/CD流程确保版本质量。重点介绍了接口兼容性(ABI保证)、数据格式兼容性和依赖库管理三大设计策略,并提供了版本升级与回滚的实践方案。该方案为开发者提供了稳定可维护的算子库管理方法,平衡了性能优化与系统稳定性需求。相关资源包括CANN组织链接和ops-nn仓库地址。

2026-02-08 13:59:50 608

原创 算子性能 Profiling:从理论到实测的完整流程

摘要:本文系统介绍了昇腾AI架构下算子性能Profiling的理论与方法。重点阐述了性能模型构建(计算时间、搬运时间、调度开销)、CANN Profiling工具链(Ascend Profiler、msprof等)的使用流程,以及关键指标(计算利用率、内存带宽利用率等)的解读方法。通过矩阵乘法算子的案例分析,展示了如何通过数据驱动的方式识别计算瓶颈或访存瓶颈,并给出针对性的优化建议。文章为开发者提供了从数据采集到分析优化的完整性能调优闭环方案。

2026-02-07 23:30:28 1091

原创 AI Core 算子优化:ops-nn 的指令级调优技巧

本文探讨了在昇腾AI架构中优化AICore算子的指令级调优技巧。通过分析AICore流水线架构及其阻塞类型,提出了向量化指令优先、无分支计算、指令融合和循环展开等核心优化方法,可显著提升算子性能。同时介绍了流水线调度中的双缓冲设计,实现计算与数据搬运的并行。最后强调需结合性能剖析工具定位瓶颈,针对性优化。这些技巧能有效释放AICore算力,提升神经网络算子的执行效率。

2026-02-07 23:23:19 672

原创 C++ 中的 std::copy 函数

本文解析了 C++ STL 基础算法std::copy,其核心功能是将源序列[first, last)的元素复制到目标序列,<algorithm>头文件,支持向量、原生数组等类型,返回目标序列最后复制元素的后向迭代器,可利用返回值实现多源连续复制。使用时最大陷阱为目标空间不足引发未定义行为,推荐通过<iterator>头文件的std::back_inserter动态扩展空间,或预先分配足够容量。C++20提供std::ranges::copy,语法更简洁,无需显式调用迭代器。std::copy实用性强

2026-01-17 21:44:31 840

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除