- 博客(5)
- 收藏
- 关注
原创 昇腾CANN异步执行深度解析:解锁NPU高效并行算力
昇腾CANN异步执行机制通过计算与数据搬运任务的并行调度,显著提升NPU硬件利用率。该技术采用任务队列和回调机制,实现DMA引擎与AICore的协同工作,使原本串行的操作转为并行执行。实测表明,异步执行可使任务总耗时降低27%以上,特别适用于大模型训练和高吞吐推理场景。开发者通过简单的Stream管理和异步API调用即可实现优化,未来CANN还将进一步升级异步调度策略。该技术是释放昇腾NPU算力的关键,为AI应用性能提升提供了有效解决方案。
2025-12-19 21:42:05
1247
原创 昇腾CANN算子生成与融合深度解析:从原理到实战
昇腾CANN作为AI框架与昇腾NPU的关键桥梁,通过算子生成与融合技术显著提升模型性能。其核心在于:1)定制化算子生成,基于AscendC语言适配NPU硬件特性;2)算子融合技术,将多个算子合并执行以减少内存访问和调度开销。实战案例展示了AddMul融合算子的开发流程,性能测试显示融合后推理耗时降低58.3%,内存访问减少66.7%。该技术已成功应用于计算机视觉、大模型等场景,未来将向全场景自动优化方向发展。
2025-12-19 21:23:57
1092
原创 昇腾CANN:开发者的AI算力增效神器
昇腾CANN(Compute Architecture for Neural Networks)的定义与背景华为昇腾AI生态中的核心地位支持的计算场景(训练、推理、边缘计算等)昇腾CANN在AI算力民主化中的价值开发者入门建议与技术社区资源指引一、昇腾 CANN 是什么?开发者的 “AI 算力增效神器”
2025-12-05 22:24:03
713
原创 昇腾智能一体机:病理分析的AI算力底座,从切片识别到诊断提速6倍
昇腾智能一体机破解病理分析三大痛点:针对千万级像素病理切片处理延迟(传统设备超30秒)、医生诊断效率低(日均80例)、基层误诊率高(较三甲医院高45%)等问题,通过"算力+算法"协同方案实现突破。硬件搭载昇腾910B/C和310B芯片,提供最高320TFLOPS算力;软件采用CANN架构实现算子融合与异步并行,算力利用率提升至70%;适配RuiPath等病理大模型,覆盖19种癌种,识别准确率超90%。实际应用中,单切片诊断延迟从35秒降至2.8秒,基层误诊率降低45%,显著提升医疗效率与
2025-12-02 11:16:25
645
原创 昇腾图像分类加速核心:异步并行激活全计算单元潜能
摘要:昇腾芯片通过异步并行机制优化图像分类任务,其AICore内置Cube、Vector、Scalar计算单元协同工作,配合CANN架构的Stream流调度实现硬件单元并行运转。基于MindSpore框架的ResNet-50案例显示,该方案可使单图推理延迟降低75.6%,算力利用率提升至85%。典型应用包括工业检测(150帧/秒)、智能监控和云端批量处理,显著提升图像分类效率。昇腾通过"硬件并行+软件调度"的全栈方案,为边缘到云端场景提供高效分类能力。
2025-12-01 21:47:31
753
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅