深度学习计算框架综述（十三）HVX 计算优化实践—Hexagon DSP简介

最新推荐文章于 2024-01-20 22:41:44 发布
最新推荐文章于 2024-01-20 22:41:44 发布
阅读量3.6k 收藏 15
点赞数 2
分类专栏： 深度学习计算框架综述 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u012542087/article/details/107284473
版权
本文介绍了Hexagon DSP的架构，包括SIMD Extensions、Threading Model和Memory。SIMD Extensions支持类似于ARM Neon的SIMD指令，但HVX在每个Cycle内的计算量是Neon的8倍，尤其擅长定点运算。Threading Model部分阐述了内存模型，强调了L1/L2 Cache和VTCM在高性能计算中的作用。对于深度学习计算框架，理解并利用这些特性能够实现更高效的计算。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本节，我们主要介绍一下Hexagon DSP的架构：

 

通过下图1，我们可以看到cDSP内部的基本结构：包括Scalar/HVX处理单元、L1/L2 Cache、VTCM以及这些组成部分的连接方式。

 

注：本文中的所有示意图、L1/L2 Cache 的大小等信息，在不同架构下的Hexagon DSP中可能存在一些差异，具体的内容可以参考官方手册。

SIMD Extensions

和ARM Neon一样

最低0.47元/天 解锁文章
性能优化-HVX 指令介绍
发狂的小花的博客
01-22 2025
本文主要介绍了 HVX 指令相关的知识，包括 HVX 寄存器相关内容，指令的背景依赖，部分常用 intrinsic HVX 指令。具体指令的详细内容及使用还需阅读 HVX 的指令文档，以及细致的实践操作。🌈我的分享也就到此结束啦🌈如果我的分享也能对你有帮助，那就太好了！若有不足，还请大家多多指正，我们一起学习交流！如果能评论下就太惊喜了！最后，☺祝愿大家每天有钱赚！！！欢迎关注、关注！
高通骁龙(Qualcomm Snapdragon)CDSP HVX HTP 芯片简介与开发入门
最新发布
tianpu2320959696的博客
11-28 958
C:\Qualcomm\Hexagon_SDK\3.5.4\examples\common\benchmark\hexagon_Release_dynamic_toolv83_v66\ship\libbenchmark_skel.so ----->DSP端库。C:\Qualcomm\Hexagon_SDK\3.5.4\examples\common\benchmark\android_ReleaseG_aarch64\ship\benchmark ------->可执行文件。
深度学习计算框架综述（十三）HVX 计算优化实践—DSP 开发调试
Kane的博客
01-09 1524
Overview FARF printf Runtime FARF Introduction Enabling runtime FARF via config file Config file name Contents of the config file Enabling at process start-up Enabling runtime FARF programmatically Obtaining PID and ASID of FastRPC pro
Hexagon DSP SDK简介与HVX扩展（1）介绍
qq_41696458的博客
01-19 4886
一、DSP与HVX简介 1、DSP 在介绍HVX前，先看DSP，DSP就是帮CPU分担工作的一种处理器，特性就是效率高，功耗低，能够有效抑制发热问题。 从8150开始，有四个单独的dsp，每个dsp用于特定的功能： 传感器（sDSP） 调制解调器（mDSP） 音频（aDSP） 计算（cDSP） 2、HVX HVX 是Hexagon Vector eXtensions的简称，HVX是DSP中一个可选的协处理器，它为标量DSP单元添加了128字节的矢量处理功能（在HVX编程的时候很多处理都要128对齐）。标
移动端推理框架总结Android NNAPI, TFLite GPU, Hexagon NN, Samsung Eden and MediaTek Neuron delegates
u010087277的博客
05-26 5041
近来做模型移植，接触到移动端推理框架，做一个总结： 1. Android NNAPI：一个基于安卓系统的可在移动设备上运行与机器学习相关的计算密集型操作的C语言API，NNAPI降为更高层次的构建和训练神经网络的机器学习框架（Tensorflow Lite，Caffe2等等）提供底层支持。这些API将会集成到所有的Android 8.1（以及更高版本）设备上。NNAPI高几层的系统架构如下图所示： 相关参数连接：优快云博主讲解官方文档 2. TFLite GPU: TFLite 移动端GPU加.
高通HVX简介
weixin_38498942的博客
04-08 9521
一、简介 HVX意味着你可以将视频和摄像机任务从CPU转移到Hexagon DSP，以实现低功耗的快速图像处理。长期以来，用于宽矢量处理的新型Hexagon VX内核一直很吸引人的用例，因为它们消耗大量电能，因此可以从CPU上卸载计算机视觉（CV）和视频。 借助HVX内核，Hexagon的设计师增加了宽矢量处理，以实现更高的性能和更低的功耗。 二、HVX功能介绍 可以通过以下三个主要途径利用Hex...
深度学习计算框架综述（十三）HVX 计算优化实践—VCAP Hexagon 计算框架介绍
Kane的博客
01-09 2033
架构简介： VCAP Hexagon DSP计算框架是一个针对高通DSP的高性能计算框架，框架可以简化为三层结构： 模型层：负责模型转换，提供了vaim2bin转换工具，通过vaim2bin将vaim模型转换成DSP param/bin模型，并计算内存复用的策略 框架层：负责模型解析、dspCV的初始化、内存复用策略的执行、OP的计算策略 计算层：负责计算策略的执行，使用HVX汇编对常见的OP进行了深度优化 针对这三层，此处再展开描述一下： 模型层也可以采用其他的模型格式，...
深度学习计算框架综述（十三）HVX 计算优化实践
Kane的博客
02-21 2381
本章主要介绍，如何用Hexagon DSP的HVX来优化Conv、Pooling等算子。
深度学习计算框架综述（十三）HVX 计算优化实践—D32 Format浅析
Kane的博客
07-11 1245
运用Hexagon DSP做深度学习计算，D32 Format 是我们要熟练掌握的基础知识，下图是Hexagon NN中采用的D32 Format(和VCAP采用的存在一些差异，请看文末)。 D32 Format是指Feature Map的排布，D32则是指Feature Map的Channel 32对齐，假设Feature Map的维度是[1，24，120，120](NCHW),那么就需要把24补齐到32，即实际分配的Feature Map为[1，32，120，120]，另外，对于Width，我们.
Hexagon cDSP芯片简介
weixin_42112050的博客
08-01 6471
骁龙处理器中世界一流的Qualcomm Hexagon数字信号处理器（DSP）支持多种多媒体功能，并且经过优化可实现高性能和高能效。Hexagon DSP 架构能够卸载 CPU 任务，利用异构计算支持始终在线任务，例如音频和显示。借助 Hexagon DSP，即可通过实时音频处理交付音频内容，在无延迟、无失真的情况下流式传输音频，消除背景噪声。骁龙处理器内的 Hexagon DSP还能卸载CPU的可视任务，包括文本识别、对象识别、图像增强和图像内的面部识别，并且节省电池电量。...
深度学习计算框架综述（十三）HVX 计算优化实践—HVX 编程基础知识
Kane的博客
01-19 3701
本节主要介绍HVX编程的基础知识以及示例代码，主要是五部分: Registers: 介绍常用的寄存器 Program Flow: 介绍程序流中常用到的循环、跳转、调用等指令 Software Stack: 介绍软件栈的结构，以及SP、FP、LR等寄存器的正确使用方法 Scalar/Vector Instructions: 介绍常用的标量和向量指令 Sample Code: 结合前三部分的内容实现的示例代码 ...
施耐德电气HVX系列断路器产品手册.pdf
10-24
施耐德电气HVX系列断路器产品手册pdf,施耐德电气HVX系列断路器产品手册：本文档是施耐德电气HVX系列中压真空断路器产品手册，主要介绍了HVX系列中压真空断路器产品的特性、运行环境、设计理念、二次装置、选型表、二次电路图、外形尺寸等详细内容。
android dsp,Android : 高通平台的HVX简介及调试
weixin_33224795的博客
05-27 1530
一、HVX简介HVX(“Hexagon矢量扩展”，Hexagon-六边形、Vector-矢量、Extensions-扩展)是Hexagon 680 DSP的典型特性，能够在执行图像处理应用中的计算负载当中发挥重要作用，比如虚拟现实、增强现实、图像处理、视频处理、计算视觉等。此前这些任务均是由CPU或GPU来执行，如今交给Hexagon 680 DSP，能够达到更加高效、功耗更低的效果。HVX之所以...
高通Hexagon通用计算DSP介绍
yeeman的专栏
03-01 8276
Qualcomm Hexagon Compute DSP (cDSP)是高通平台上专门用来做通用计算的硬件加速单元，与主机 CPU 相比，DSP 通常以较低的时钟速度运行，并提供更多的并行指令级。 这使得 DSP 在功耗方面成为 CPU 的更好替代品。 因此，将尽可能多的大型计算密集型任务移植到 DSP 上，可以降低设备的整体功耗。 cDSP主要用途有： 摄像头、视频的图像增强相关处理 计算机视觉、增强、虚拟现实处理 深度学习硬件加速 cDSP在SOC架构中位于下图红色框内。 cDSP硬件架构
深度学习计算框架综述（十三）HVX 计算优化实践—Concat 优化
Kane的博客
01-09 1081
主要有三种维度的Concat，Height、Width、Channel，如果是浮点计算，只需要进行数据拷贝即可，但是基于Quantization Aware Training的定点计算，需要判断输入和输出的量化信息是否匹配： 如果一致，则可以直接拷贝；如果不一致，则需要转换量化信息中的scale和bias值，由于Feature Map的数据范围是限定的，即0-255，所以可以在init函数中将0-255对应的转换值提前计算好，这 一步骤的代码如下（same_as_output_array_是一个数组，.
高通DSP架构和HVX指令介绍
陌上羽
09-07 1535
主要介绍高通DSP架构和HVX指令使用的知识！！！
高通 Hexagon V65 HVX 编程参考手册（7）
weixin_38498942的博客
03-16 995
高通 Hexagon V65 HVX 编程参考手册（7）
性能优化-HVX架构简介
发狂的小花的博客
01-20 1775
跟 RPC 的调用类似，通常算法会编译成两个库，一个在 host 端运行的 Stub 库，一个在 device 端运行的 Skel 库。客户端需要把本地参数传给远程函数，本地调用的过程中，直接压栈即可，但是在远程调用过程中不在同一个内存里，无法直接传递函数的参数，因此需要客户端将要调用的函数名以及参数打包，然后通过网络发送到服务器。远程调用时，首先客户端需要告诉服务器，需要调用函数，这里函数和进程 ID 存在一个映射，客户端远程调用的时候，需要查一下函数，找到对应的 ID，然后执行函数的代码。
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值