Arm NN 开源项目推荐
项目基础介绍和主要编程语言
Arm NN 是一个高性能的机器学习(ML)推理引擎,专为 Android 和 Linux 系统设计,旨在加速 Arm Cortex-A CPU 和 Arm Mali GPU 上的 ML 推理任务。该项目使用 C++17 编写,并采用 CMake 构建系统,支持多种目标平台和开发环境。
项目核心功能
Arm NN 的核心功能包括:
- 高性能推理引擎:通过 Arm 架构特定的优化(如 SVE2),Arm NN 在 Arm IP 上提供了优于通用 ML 库的性能。
- 多框架支持:支持 TensorFlow Lite (TF Lite) 和 ONNX 格式的模型,并提供 TF Lite Delegate 来加速 TF Lite 模型。
- 多平台支持:支持 Android 和 Linux 系统,并提供预构建的二进制文件和 Android AAR 文件,方便开发者集成。
- 灵活的构建工具:提供 Arm NN Build Tool,帮助开发者从源代码构建项目,并选择所需的组件。
项目最近更新的功能
Arm NN 最近的更新包括:
- Android 平台支持:增加了对 Android 11、12、13 和 14 的支持,并提供了预构建的 AAR 文件,方便 Android 开发者集成。
- 多 ISA 支持:提供了针对不同 Arm 架构的预构建二进制文件,包括 v8a 和 v8.2a,支持 SVE、SVE2、FP16 和一些点积内核。
- TF Lite Delegate 增强:进一步扩展了 TF Lite Delegate 的 ML 操作符支持,确保更广泛的模型兼容性。
- 文档和指南更新:更新了快速入门指南和安装指南,帮助开发者更轻松地开始使用 Arm NN。
通过这些更新,Arm NN 继续为开发者提供了一个强大且灵活的 ML 推理引擎,适用于各种 Arm 架构的设备。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考



