- 博客(4)
- 收藏
- 关注
RSS订阅原创 昇腾 CANN 算子开发实战：从自定义算子到部署调优
介绍昇腾计算架构（CANN）的核心组件与功能，包括异构计算架构、算子开发框架和推理引擎的作用。说明自定义算子的应用场景，如高性能计算、模型优化及特定硬件加速需求。列出开发环境的硬件与软件要求，包括昇腾芯片型号、驱动版本和CANN工具链的安装步骤。提供环境配置的验证方法，如运行示例算子测试环境是否正常。详细描述算子开发的流程，包括算子定义、计算逻辑实现、核函数编写及内存管理。
2026-02-07 00:01:25
703
原创 CANN 多流与异步执行：最大化硬件利用率的并发编程模型
CANN 的多流与异步执行模型是释放 AI 加速器全部潜力的关键。通过合理设计并发流程，开发者可将硬件利用率从不足 50% 提升至 90% 以上，这对于成本敏感的边缘部署和高并发云服务至关重要。掌握流编程，是迈向高性能 AI 工程师的必经之路。cann组织链接：https://atomgit.com/cannops-nn仓库链接：https://atomgit.com/cann/ops-nn。
2026-02-07 00:00:37
535
原创 基于 CANN 的 INT8 量化部署实战：从校准到推理加速
CANN 的 INT8 量化方案兼顾易用性与高性能，是边缘 AI 部署的理想选择。通过合理的校准策略与混合精度配置，开发者可在精度损失极小的情况下，获得显著的性能与能效收益。未来，随着稀疏量化、非均匀量化等技术的引入，CANN 将进一步拓展低比特 AI 的边界。cann组织链接：https://atomgit.com/cannops-nn仓库链接：https://atomgit.com/cann/ops-nn。
2026-02-06 21:54:07
395
原创 CANN 中的图优化技术详解：从计算图构建到高性能执行
CANN 允许开发者注册自定义优化 Pass，用于特定场景的图改写。示例：将两个连续的 ReLU 合并为一个python编辑# 将当前 ReLU 替换为其输入# 注册并启用此类扩展能力使得 CANN 可适配领域特定模型（如语音、推荐系统）的优化需求。CANN 的图优化引擎是其高性能的核心支柱。通过多层次 IR、智能融合策略与内存管理，它在不牺牲灵活性的前提下，最大化硬件利用率。对于追求极致性能的 AI 工程师而言，深入理解并善用cann组织链接：https://atomgit.com/cann。
2026-02-06 21:49:33
469
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人