Relay Arm® 计算库集成

基于MSPM0的智能环境联动久坐提醒系统设计与实现 嵌入式系统是连接物理世界与数字世界的桥梁,其核心在于通过微控制器(MCU)感知环境、处理信息并控制执行器。在物联网和智能家居领域,嵌入式技术通过状态机设计、外设驱动和人机交互,实现了从简单控制到复杂环境联动的跨越。本文聚焦于一个典型的嵌入式应用——智能久坐提醒与环境联动系统。该系统以TI MSPM0G3507微控制器为核心,通过状态机管理定时任务,驱动OLED显示屏进行信息可视化,并利用NeoPixels灯带实现动态环境光反馈。项目深入探讨了硬件选型、软件架构、以及关键功能如编码器去抖和WS2812B驱动的 阅读详情

介绍

Arm 计算库(ACL)是一个开源项目,它为 Arm CPU 和 GPU 提供了加速内核。目前,集成将算子迁移到 ACL 以在库中使用手工制作的汇编程序例程。通过将选择算子从 Relay 计算图迁移到 ACL,可在此类设备上实现性能提升。

安装 Arm 计算库

安装 Arm 计算库前,了解要构建的架构非常重要。一种方法是使用 lscpu,并查找 CPU 的“模型名称”,然后,可以使用它通过在线查看来确定架构。

TVM 目前只支持 v21.08 版本的 ACL,构建和安装所需的库的推荐方法如下:

  • 使用位于docker/install/ubuntu_download_arm_compute_lib_binaries.sh 的脚本,为 target_lib 指定的架构和扩展下载 ACL 二进制文件,它们将安装到 install_path 表示的位置。

  • 或从 https://github.com/ARM-software/ComputeLibrary/releases 下载预构建的二进制文件。 使用此包时,要为所需的架构和扩展选择二进制文件,并确保它们对 CMake 可见:

cd <acl-prebuilt-package>/lib
  mv ./<architecture-and-extensions-required>/* .

这两种情况都要将 USE_ARM_COMPUTE_LIB_GRAPH_EXECUTOR 设置为 ACL 包所在的路径。 CMake 会在 /path-to-acl/,/path-to-acl/lib 和 /path-to-acl/build 中查找所需的二进制文件。如何使用这些配置选项,请参阅下一小节。

使用 ACL support 构建

当前的实现在 CMake 中有两个单独的构建选项。这种拆分的原因是 ACL 不能在 x86 机器上使用。但是,我们仍希望在 x86 机器上编译 ACL runtime 模块。

  • USE_ARM_COMPUTE_LIB=ON/OFF - 启用此标志能添加对编译 ACL runtime 模块的支持。
  • USE_ARM_COMPUTE_LIB_GRAPH_EXECUTOR=ON/OFF/path-to-acl - 启用此标志将允许图执行器计算 ACL 迁移的函数。

这些标志可根据你的设置应用于不同的场景。例如,若要在 x86 机器上编译 ACL 模块,并通过 RPC 在远程 Arm 设备上运行,则需要在 x86 机器上设置 USE_ARM_COMPUTE_LIB=ON,在远程 AArch64 设备上设置 USE_ARM_COMPUTE_LIB_GRAPH_EXECUTOR=ON。

默认这两个选项都设置为 OFF。设置 USE_ARM_COMPUTE_LIB_GRAPH_EXECUTOR=ON 意味着 CMake 会在默认位置和 /path-to-tvm-project/acl/ 目录下搜索 ACL 二进制文件(参阅 https://cmake.org/cmake/help/v3.4/command/find_library.html)。若要设置搜索 ACL 的路径,可在 ON 的位置指定。

这些标志应在 config.cmake 文件中进行设置,如:

set(USE_ARM_COMPUTE_LIB ON)
set(USE_ARM_COMPUTE_LIB_GRAPH_EXECUTOR /path/to/acl)

使用

备注
此部分可能与 API 的更改不同步。

创建一个 Relay 计算图(单个算子或整个计算图),使得任何 Relay 计算图都可以作为输入。ACL 集成只会选择支持的算子进行迁移,而其他的将通过 TVM 计算。(本例用的是单个 max_pool2d 算子)。

import tvm
from tvm import relay

data_type = "float32"
data_shape = (1, 14, 14, 512)
strides = (2, 2)
padding = (0, 0, 0, 0)
pool_size = (2, 2)
layout = "NHWC"
output_shape = (1, 7, 7, 512)

data = relay.var('data', shape=data_shape, dtype=data_type)
out = relay.nn.max_pool2d(data, pool_size=pool_size, strides=strides, layout=layout, padding=padding)
module = tvm.IRModule.from_expr(out)

为 ACL 的计算图进行注释和分区:

from tvm.relay.op.contrib.arm_compute_lib import partition_for_arm_compute_lib
module = partition_for_arm_compute_lib(module)

构建 Relay 计算图:

target = "llvm -mtriple=aarch64-linux-gnu -mattr=+neon"
with tvm.transform.PassContext(opt_level=3, disabled_pass=["AlterOpLayout"]):
    lib = relay.build(module, target=target)

导出模块:

lib_path = '~/lib_acl.so'
cross_compile = 'aarch64-linux-gnu-c++'
lib.export_library(lib_path, cc=cross_compile)

必须在 Arm 设备上运行推理。若在 x86 设备上编译,在 AArch64 上运行,则需要借助 RPC 机制(参考 RPC 机制的使用教程)。

dev = tvm.cpu(0)
loaded_lib = tvm.runtime.load_module('lib_acl.so')
gen_module = tvm.contrib.graph_executor.GraphModule(loaded_lib['default'](dev))
d_data = np.random.uniform(0, 1, data_shape).astype(data_type)
map_inputs = {'data': d_data}
gen_module.set_input(**map_inputs)
gen_module.run()

更多示例

以上示例仅展示了如何用 ACL 迁移单个 Maxpool2D 的基本示例。若要查看所有实现的算子和网络的更多示例,参阅 tests:tests/python/contrib/test_arm_compute_lib(可修改 test_config.json 来配置如何在 infrastructure.py 中创建远程设备,从而配置 runtime 测试的运行方式。

以 test_config.json 的配置为例:

  • connection_type - RPC 连接的类型。选项:local、tracker 和 remote。
  • host - 要连接的主机设备。
  • port - 连接时使用的端口。
  • target - 用于编译的 target。
  • device_key - 通过 tracker 连接时的设备密钥。
  • cross_compile - 连接非 arm 平台时交叉编译器的路径,例如 aarch64-linux-gnu-g++。
{
  "connection_type": "local",
  "host": "127.0.0.1",
  "port": 9090,
  "target": "llvm -mtriple=aarch64-linux-gnu -mattr=+neon",
  "device_key": "",
  "cross_compile": ""
}

支持的算子

Relay 节点备注
nn.conv2dfp32:Simple: nn.conv2d Composite: nn.pad?, nn.conv2d, nn.bias_add?, nn.relu?支持深度和普通卷积(内核为 3x3 或 5x5 且步幅为 1x1 或 2x2 时),不支持分组卷积。```
qnn.conv2duint8:Composite: nn.pad?, nn.conv2d, nn.bias_add?, nn.relu?, qnn.requantizeNormal支持深度和普通卷积(当内核为 3x3 或 5x5,步长为 1x1 或 2x2 时),不支持分组卷积。
nn.densefp32:Simple: nn.dense Composite: nn.dense, nn.bias_add?
qnn.denseuint8:Composite: qnn.dense, nn.bias_add?, qnn.requantize
nn.max_pool2dfp32, uint8
nn.global_max_pool2dfp32, uint8
nn.avg_pool2dfp32:Simple: nn.avg_pool2d uint8:Composite: cast(int32), nn.avg_pool2d, cast(uint8)
nn.global_avg_pool2dfp32:Simple: nn.global_avg_pool2d uint8:Composite: cast(int32), nn.avg_pool2d, cast(uint8)
power(of 2) + nn.avg_pool2d + sqrtL2 池化的一种特殊情况。fp32:Composite: power(of 2), nn.avg_pool2d, sqrt
reshapefp32, uint8
maximumfp32
addfp32
qnn.adduint8

备注
复合算子由映射到单个 Arm 计算库的算子组成。从 Arm 计算库的角度来看,可以将其视为单个融合算子。“?”是构成复合算子的一系列算子中的可选算子。

添加新算子

添加新算子需要修改多处,本节将分享需要修改的内容和位置,但不会深入探讨单个算子的复杂性(这个问题留给开发者思考)。

下面是要修改的几个文件:

  • python/relay/op/contrib/arm_compute_lib.py:定义了要用 op.register 装饰器迁移的算子——意味着注释 pass 认为此算子可迁移 ACL。
  • src/relay/backend/contrib/arm_compute_lib/codegen.cc:实现 Create[OpName]JSONNode 的方法;声明算子如何由 JSON 表示,可用来创建 ACL 模块。
  • src/runtime/contrib/arm_compute_lib/acl_runtime.cc:实现 Create[OpName]Layer 方法;定义如何用 JSON 表示来创建 ACL 函数;只定义了如何将 JSON 表示转换为 ACL API。
  • tests/python/contrib/test_arm_compute_lib:为给定的算子添加单元测试。
arm交叉编译器编译boost库并调用(记录) 环境:ubuntu12.04 arm9 arm-none-linux-gnueabi-g++ 安装: 1. 确保ARM编译成功安装,并配置好环境变量。  2. 解压boost压缩包  3. 进入目录执行./bootstrap.sh, 此时形成bjam文件和project-config.jam  4. 编辑project-config.jam, 仅修改using gcc这行。因为我 阅读详情

相关推荐

编译Qt arm库并在开发板运行

Qt的ARM版编译 ____________________________________________________________________________________________________________________________________ 交叉编译器:buidroot-2012.08                        :qt-ever

liuzijiang1123的专栏 3648

ARM32开发——库与包

⛺️心若有所向往,何惧道阻且长。

qiuyeyyy的博客 1229

【信息科学与工程学】【通信工程】 第九十二 OTN网络的各类函数03

通过测量反射脉冲的幅度和极性,可以推断故障类型和位置:开路(Γ=+1, 正反射),短路(Γ=-1, 负反射),容性/感性不连续。算法:在设备背板上运行一个共享的或分段的低速管理总线(如I2C, SMBus, SPI, Ethernet),用于主控板与所有线卡、风扇盘、电源盘之间的管理通信。算法:在一段正常运行的“学习期”内,持续收集网络性能数据(如接口流量、丢包、延迟、CPU利用率),计算其统计特征(如均值、标准差、周期性),建立“性能基线”。采用高度并行的乘法累加(MAC)阵列和精密的时钟控制。

weixin_49199313的博客 644

【亲测免费】 ARM Compute Library 使用教程

ARM Compute Library 使用教程 项目介绍 ARM Compute Library 是一个针对 ARM 架构优化的开源软件库,旨在提供高性能的计算机视觉和机器学习功能。该库包含了一系列优化的图像处理、计算机视觉和机器学习算法,适用于 ARM Cortex 处理器和 ARM Mali 图形处理单元。 ARM Compute Library 的主要特点包括: 高性能:针对 ARM 架...

gitblog_01037的博客 1624

ARM Compute Library计算库用户指南

该文档介绍了Caffe_HRT代码,可以帮助提升caffe框架下的ARM端的程序性能,主要包括opencl和Neon等优化实现。是ACL库的很好介绍文档。

ARM元件库文件

lpc arm ZLG元件库

ARM DSP库

随着ARM的DSP库推出及性能越来越强劲,ARM凭借高性价比的优势令一些企业在一些相对低一点的使用场景也逐步使用ARM取代DSP,本章将重点将国民技术G430系列移植DSP库并进行时间上的测试,来判断DSP库的效率

weixin_46907165的博客 2088

ARM下一些常用库的移植

ARM下一些常用库的移植ARM下一些常用库的移植ARM下一些常用库的移植

【大模型】什么是大模型框架?常用的大模型框架盘点对比

大模型框架是指用于训练、推理和部署大型语言模型(LLMs)的软件工具和库。这些框架通常提供了高效的计算资源管理、分布式训练、模型优化和推理加速等功能,以便更好地利用硬件资源(如GPU和TPU)来处理庞大的数据集和复杂的模型结构。大模型框架的优点高效性:通过优化计算和内存管理,这些框架能够显著提高训练和推理的速度。可扩展性:支持分布式训练,可以在多个GPU或TPU上运行,适用于大规模数据集和复杂任务。灵活性:提供丰富的API和工具,使得研究人员和工程师可以方便地进行定制化开发。

yuuuuuuuk的博客 1万+

libz.so.1.2.11

arm库

bugku渗透测试4-writeup

三、对这个主机进行全端口的扫描,发现存在22000 ssh端口,那么可以联想到时redis写入公钥来连接主机。又来了一个新的靶场,这个靶场打下来我觉得关键就是信息收集,走了很多的弯路。八、最后一个flag是要去看cms的数据库里面,这个数据库是sqlite。把这个数据库下载下来,登录密码是加密的,就直接用token。一、入口的漏洞是在登录的时候去抓包,修改action的值。六、没想到这个第一台机器的密码,在第二台里面。七、扫描第一台主机、使用之前的密码连接成功。获取最后一台主机的root密码。

vsdfbhsdhsdfh的博客 1304

Armadillo库:用于线性代数和科学计算的快速C/C++库下载及vs环境下的使用方法

该文章主要介绍了armadillo库的相关内容,一个C/C++语言下的线性代数及科学计算库的下载,及vs2022环境下的库使用方法及运行示例。

weixin_44011863的博客 2127

k8s 查看cpu使用率最高的pod

在 Kubernetes 中,可以使用命令查看 Pod 的资源使用情况,从而找到 CPU 使用率最高的 Pod。

u010674101的专栏 3347

【ARM】——深度学习相关资料汇总

arm compute library Arm计算库包含了Arm Cortex-A系列CPU处理器和Arm Mali系列gpu实现的软件功能。它是一个低级优化函数的方便存储库,开发人员可以单独获取这些函数,或者作为复杂管道的一部分使用,以加速其算法和应用程序。 ARM-software arm在github上的开源地址 armnn 用arm做深度学习的库,可以对caffe, tensorflow等训练的模型进行推理。 lianro ...

怡宝2号 1311

【通俗易懂】Windows系统安装TensorRT

NVIDIA TensorRT是一个由NVIDIA公司开发的用于深度学习推理的高性能SDK。它专门设计用于在NVIDIA GPU上进行高效的神经网络推理,能够大幅度提升深度学习模型的推理速度和效率。TensorRT的主要特点包括:模型优化:TensorRT通过层融合、精度校准、动态形状等技术优化模型,减少推理时的计算量和内存占用。多精度推理:支持多种精度推理,包括FP32、FP16、INT8等,以平衡性能和精度。

王尼莫的博客 1587

多任务学习中的过拟合陷阱:动态停止训练机制详解与避坑指南

本文深入剖析了多任务学习中因任务过拟合不同步导致的性能下降问题,并详细介绍了动态停止-继续训练机制。该机制通过为每个任务设置独立的训练开关,基于验证集性能动态控制其梯度更新,有效缓解了任务间负迁移,是提升多任务模型整体泛化能力的关键策略。

happy2的博客 1093

arm-2d库详细介绍

本文档解释了 ARM-2D 的基本概念。在我们开始体验Arm-2D时,你可能会有很多问题,比如:Arm-2D 是什么?它能解决什么问题?目标受众是谁?Arm-2D 由什么组成?发展环境如何?接下来的内容,将一一作答。如果您想在 Linux 中设计 GUI 应用程序,则不必直接面对硬件。Linux 生态系统为您提供了所有必要的软件组件,包括 GPU 驱动程序、 GUI 栈和许多方便的参考设计。不幸的是,如果您是使用 Cortex-M 设备的嵌入式开发人员,则必须直接面对各种显示硬件。

xuxuluo的博客 3717

cesium加载geotiff的 四种方法

本文介绍了在Cesium中加载GeoTIFF数据的两种主要方法。首先解析了核心前置知识,包括坐标系匹配、数据类型区分和性能优化。方法1详细演示了如何将RGB影像GeoTIFF转换为Cesium影像图层,包含从数据解析到Canvas转换的完整代码流程。方法2则针对高程数据(DEM)处理,展示了前端直接解析构建地形网格的方案。文章提供了完整的代码示例和关键实现要点,适用于卫星影像、专题图和数字高程模型等多种GeoTIFF数据类型在三维场景中的可视化需求。

大剑师兰特的GIS世界 397

linux中的arm函数库,Linux常用库

一些库在各个项目经常重用.如jpeg,freetype,iconv 等.每次大型项目均会反复重用.因此按照原来项目规范,一般都放在项目libs目录下,但后来发现,每个项目都做重复操作.也完全没有必要.因为现在是将其归纲到一个comm_lib公用信息.以下是常用库的ARM-Linux移植,我是放在/home/hxy/common_lib 目录下.按到移植规范,输出在 output/arm-linux...

weixin_26782929的博客 321

【异常】插入Milvus时出现无法插入的情况提示io.milvus.exception.ParamException: The field: meta is not provided.

在使用 Milvus 进行向量搜索时遇到 io.milvus.exception.ParamException: The field: meta is not provided 错误通常意味着在创建集合(Collection)或者插入数据(Insert)时,某些必需的元数据字段没有被正确提供。检查集合创建,确保在创建集合时,你已经定义了所有必需的字段,并且正确地使用了 SchemaField 来定义这些字段。例如,如果你在创建集合时没有正确设置元数据字段,就会出现这个错误。请严格按照这个表结构创建。

奶爸的编程之路,也就一周冷个三天 927

STM32F103RCT6的FLASH读写操作

STM32F103RCT6是一款常用的32位微控制器,它具有内置的FLASH存储器,可以用于存储程序代码和数据。在本文中,我们将详细介绍如何进行STM32F103RCT6的FLASH读写操作,并提供相应的源代码。写入数据时,我们通过将数据直接写入FLASH地址来完成。通过使用适当的API和规则,我们可以有效地读取和写入数据。写入FLASH时,我们需要按特定的规则进行编程。首先,我们需要包含适当的头文件和定义相关的宏和变量,以便在代码中使用FLASH API。类型的指针,我们可以直接读取FLASH中的数据。

UplKubernetes的博客 1034

从OpenCV源码到arm动态库的全过程

最近两天成功把OpenCV移植到arm开发板,过程中遇到许多问题,于是写下此篇文章记录一番,方便自己日后复习,或许还可以帮助到其他人。OpenCV移植所需要做的东西还是挺多的,所以文章比较长。 移植过程参考了 KayChanGeek 大神的一些关于OpenCV移植的文章。 移植用到的工具如下: 1、Ubuntu 16.04,64位 2、cmake,用于生成编译OpenCV源码的Makefi...

RwinR的博客 1374

SAP 行业扫盲系列之一:SAP 从业者的分类

本文简单介绍了 SAP 从业者的分类,限于笔者狭隘的视角,可能存在遗漏或者不恰当的地方,希望大家在评论区指出。 那些在知乎咨询上向我提问关于进入 SAP 行业建议的朋友们,也请大家提问时注明自己想具体从事 SAP 行业哪一类的工作,这样才能得到更让你们满意的回复。感谢阅读。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 1590

linux中的arm函数库,ARM常用的库

一些库在各个项目经常重用.如jpeg,freetype,iconv 等.每次大型项目均会反复重用.因此按照原来项目规范,一般都放在项目libs目录下,但后来发现,每个项目都做重复操作.也完全没有必要.因为现在是将其归纲到一个comm_lib公用信息.以下是常用库的ARM-Linux移植,我是放在/home/hxy/common_lib 目录下.按到移植规范,输出在 output/arm-linux...

weixin_39906499的博客 596

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

arm平台和相关的矩阵运算库

一、arm平台ARM(Acorn RISC Machine,后改为Advanced RISC Machine)是一个32位精简指令集(RISC)处理器架构,其广泛地使用在许多嵌入式系统设计。类比于服务端的X86,其他的架构还有MIPS/PowerPC/DSP。差异参考这篇博文arm处理器架构 包括ARMv5/ARMv6/ARMv7-A/ARMv8-A等型号,对应的指令集和性能不同arm内核ARM在

xmdxcsj的专栏 7324

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

关于ARM_math数学库的使用

关于ARM_math数学库的使用 ARM_math好强大的好吧,话不多说,请看截图 各种数学库看到没有,好强大的说,其实使用这些写函数,最快上手的方法就是看官方手册,话不多说,上官方链接arm_math库的官网 举个栗子: 一般步骤 1.首先就是在自己的工程里,加入arm_math的.lib文件 2.在MDK中C++选项卡中加入ARM_MATH_CM0(不同内核不一样) 这样才可以在工程中使用a...

风歆雨 1万+

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

上一篇: 每周编辑精选|RJUA-QA 医疗数据集上线、 3D 分子生成模型 ResGen 论文解析
下一篇: AI 赋能绿色制冷,香港岭南大学开发 DEMMFL 模型进行建筑冷负荷预测
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值