- 博客(3)
- 收藏
- 关注
RSS订阅原创 【TorchNPU 中 ATen算子注册模块技术解析】
在深度学习框架的生态建设中，将专用硬件（如NPU）无缝集成到主流框架中是一项关键挑战。PyTorch作为业界广泛使用的深度学习框架，其通过DispatchKey机制为不同后端提供了灵活的扩展能力。torch_npu项目正是基于这一机制，将华为昇腾NPU的算子实现注册到PyTorch调度系统中，使得开发者能够以透明的方式在NPU设备上运行PyTorch模型。
2026-10-23 17:40:41
239
原创 【TorchNPU 内存管理模块技术解析】
在深度学习框架中，内存管理直接影响模型训练和推理的性能与稳定性。随着 NPU（神经网络处理单元）在 AI 计算场景中的广泛应用，如何高效管理 NPU 设备内存成为亟待解决的关键问题。传统的直接调用底层内存分配接口（如 ）的方式存在频繁系统调用、内存碎片化严重、跨流内存安全难以保障等痛点。为此，我们设计并实现了一套高性能的 NPU 设备内存缓存分配器，旨在为 PyTorch NPU 后端提供高效、低碎片的内存分配服务。该模块借鉴业界缓存分配器的成熟设计思想，并针对 NPU 设备特性进行了深度优化适配，在分配效
2026-10-22 09:35:33
358
原创 【TorchNPU 设备管理模块技术解析】
本文深入解析了torch_npu设备管理模块的架构设计与核心实现，涵盖设备生命周期管理、流与事件调度、上下文控制及运行时配置等关键功能。模块采用分层架构，通过Python API层、C++核心层与ACL接口封装层协同工作，实现对昇腾NPU资源的高效统一管理，为开发者提供稳定、易用的AI计算支持。
2026-10-20 20:38:40
425
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人