矩阵转置的SSE汇编优化艺术以及ARM cortext 汇编优化

SIMD高性能算子优化[3]:方阵快速转置 (2) _mm_unpacklo_ / _mm_unpackhi_():从源XMM寄存器中去除低32(或高32)位数据后,交叉存储在目的寄存器中。如图1所示,4*4矩阵可按照行向量方式划分为4行,后续SSE操作时,以上述的行向量为基本操作单位,数据类型统一为float32。(1) _mm_load_ps() / _mm_store_ps() :利用XMM寄存器单次获取/存储4个fp32的浮点型数据;图4. _mm_unpacklo_ps()函数操作过程说明。图1. 4*4矩阵分步转置示意(共计两大步) 阅读详情

转至http://blog.youkuaiyun.com/feixiang_john/article/details/8438658

平时我们做图像处理或者视频处理, 很多地方会用到矩阵转置:

比如: DCT变换, 图像旋转, 图像滤波, 以及一些数据的内存行和列的交换等, 会大量使用转置这个动作.

然而由于数据量很大,处理速度很慢!如何来提高处理速度呢?

下面看看分析: 

HEVC中有个地方是如下这样实现(直接行和列对应的位置交换):

  1. Pel  tmp;  
  2. for (k=0;k<blkSize-1;k++)  
  3. {  
  4.   for (l=k+1;l<blkSize;l++)  
  5.   {  
  6.     tmp                 = pDst[k*dstStride+l];  
  7.     pDst[k*dstStride+l] = pDst[l*dstStride+k];  
  8.     pDst[l*dstStride+k] = tmp;  
  9.   }  
  10. }  


 

如何用汇编来实现呢?

我们先用SSE汇编来实现一个8X8的矩阵转置吧: 这里输入地址pSrc_128[i] 和输出地址pDst_128[i]可以相同也可以不同:

相同的话就是原地转置, 不同的话就是非原地转置.

  1.   __m128i* m_pSrc_tmp = pSrc_128[i];  
  2.   __m128i* m_pDst_tmp = pDst_128[i];  
  3.   __m128i Org_8_0,Org_8_1, Org_8_2, Org_8_3;  
  4.   __m128i tttt1,tttt2,tttt3,tttt4,tttt33,tttt44;  
  5.   __m128i tttt5,tttt6, tttt7, tttt8;  
  6.   int stride_ii = dstStride>>3;  
  7. //one  
  8.   Org_8_0 = _mm_load_si128(m_pSrc_tmp);  
  9.   m_pSrc_tmp+=8;  
  10.   Org_8_1 = _mm_load_si128(m_pSrc_tmp);  
  11.   m_pSrc_tmp+=8;  
  12.   Org_8_2 = _mm_load_si128(m_pSrc_tmp);  
  13.   m_pSrc_tmp+=8;  
  14.   Org_8_3 = _mm_load_si128(m_pSrc_tmp);  
  15.   m_pSrc_tmp+=8;  
  16.   
  17.   tttt1 = _mm_unpacklo_epi16(Org_8_0, Org_8_1);  
  18.   tttt2 = _mm_unpacklo_epi16(Org_8_2, Org_8_3);  
  19.   tttt3 = _mm_unpackhi_epi16(Org_8_0, Org_8_1);  
  20.   tttt4 = _mm_unpackhi_epi16(Org_8_2, Org_8_3);  
  21.   
  22.   tttt5 = _mm_unpacklo_epi32(tttt1, tttt2);  
  23.   tttt6 = _mm_unpackhi_epi32(tttt1, tttt2);  
  24.   
  25.   Org_8_0 = _mm_load_si128(m_pSrc_tmp);  
  26.   m_pSrc_tmp+=8;;   
  27.   Org_8_1 = _mm_load_si128(m_pSrc_tmp);  
  28.   m_pSrc_tmp+=8;  
  29.   Org_8_2 = _mm_load_si128(m_pSrc_tmp);  
  30.   m_pSrc_tmp+=8;   
  31.   Org_8_3 = _mm_load_si128(m_pSrc_tmp);  
  32.   //m_pSrc_tmp+=8;  
  33.   
  34.   tttt1 = _mm_unpacklo_epi16(Org_8_0, Org_8_1);  
  35.   tttt2 = _mm_unpacklo_epi16(Org_8_2, Org_8_3);  
  36.   tttt33 = _mm_unpackhi_epi16(Org_8_0, Org_8_1);  
  37.   tttt44 = _mm_unpackhi_epi16(Org_8_2, Org_8_3);  
  38.   
  39.   tttt7 = _mm_unpacklo_epi32(tttt1, tttt2);  
  40.   tttt8 = _mm_unpackhi_epi32(tttt1, tttt2);  
  41.   
  42.   tttt1 = _mm_unpacklo_epi64(tttt5, tttt7);  
  43.   tttt2 = _mm_unpackhi_epi64(tttt5, tttt7);  
  44.   _mm_storeu_si128(m_pDst_tmp, tttt1);  
  45.   m_pDst_tmp+=stride_ii;  
  46.   _mm_storeu_si128(m_pDst_tmp, tttt2);  
  47.   m_pDst_tmp+=stride_ii;  
  48.   tttt5 = _mm_unpacklo_epi64(tttt6, tttt8);  
  49.   tttt7 = _mm_unpackhi_epi64(tttt6, tttt8);  
  50.   _mm_storeu_si128(m_pDst_tmp, tttt5);  
  51.   m_pDst_tmp+=stride_ii;  
  52.   _mm_storeu_si128(m_pDst_tmp, tttt7);  
  53.   m_pDst_tmp+=stride_ii;  
  54.   
  55. //tow  
  56.   tttt5 = _mm_unpacklo_epi32(tttt3, tttt4);  
  57.   tttt6 = _mm_unpackhi_epi32(tttt3, tttt4);  
  58.   
  59.   tttt7 = _mm_unpacklo_epi32(tttt33, tttt44);  
  60.   tttt8 = _mm_unpackhi_epi32(tttt33, tttt44);  
  61.   
  62.   tttt1 = _mm_unpacklo_epi64(tttt5, tttt7);  
  63.   tttt2 = _mm_unpackhi_epi64(tttt5, tttt7);  
  64.   _mm_storeu_si128(m_pDst_tmp, tttt1);  
  65.   m_pDst_tmp+=stride_ii;  
  66.   _mm_storeu_si128(m_pDst_tmp, tttt2);  
  67.   m_pDst_tmp+=stride_ii;  
  68.   tttt5 = _mm_unpacklo_epi64(tttt6, tttt8);  
  69.   tttt7 = _mm_unpackhi_epi64(tttt6, tttt8);  
  70.   _mm_storeu_si128(m_pDst_tmp, tttt5);  
  71.   m_pDst_tmp+=stride_ii;  
  72.   _mm_storeu_si128(m_pDst_tmp, tttt7);  


要实现的是NXN的转置,如何实现呢:

基于8X8来实现NXN的块或者图像的转置:

这里先把NXN划分为size_case 个8X8, 然后循环调用8X8的转置!

 

  1.  __m128i* pDst_128[64];  
  2.  __m128i* pSrc_128[64];  
  3.  int size_case = (blkSize>>3);  
  4.  dstStride = dstStride_tmp;  
  5.  for(int y = 0; y<size_case; y++)//对所有8x8的块进行地址映射  
  6.   for(int x = 0; x<size_case; x++)  
  7.   {  
  8.    pSrc_128[y*size_case + x] = (__m128i*)(pDst + 8*x + y*8*64);  
  9.    pDst_128[y*size_case + x] = (__m128i*)(rpDst + 8*y + x*8*dstStride);  
  10.   }  
  11.   
  12.  size_case = size_case*size_case;  
  13.  for(int  i = 0;i <size_case; i++)//开始转置  
  14.  {  
  15.   
  16.     8x8转置的代码:  
  17.   
  18. }  

通过比较, 用SSE汇编优化实现转置比用纯 C代码实现的转置速度快5倍左右! 

 

同样在ARM cortext上的汇编优化也是基于这个原理:

主要循环体代码如下:

  1. VTRN.16 q8, q9  
  2. VTRN.16 q10, q11  
  3. VTRN.16 q4, q5  
  4. VTRN.16 q6, q7  
  5. VTRN.32 q8, q10  
  6. VTRN.32 q9, q11  
  7. VTRN.32 q4, q6  
  8. VTRN.32 q5, q7  
  9. VSWP d17, d8  
  10. VSWP d19, d10  
  11. VSWP d21, d12  
  12. VSWP d23, d14     


感兴趣的可以自己调试下!

 

当然DSP上也是同样的方法, 只是涉及到的指令不同而已!

 

golang面试channel 源码解析(5连问) 1.从sendq队列头部取一个元素,如果元素不为空,环形队列缓存区已满,说明buffer已满,大量的send goroutine在发送数据,阻塞了,rece从循环队列读取一个元素,,把goroutinue元素放在循环队列中,从sendq队列中唤醒goroutinue。1.检查 recvq 双向链表 是否为空,如果不为空,说明recvq缓存队列不为空,buffer为空,有大量的recvq在等待,则从 recvq 头部取一个 goroutine,将数据发送过去,并唤醒对应的 goroutine 即可。 阅读详情

相关推荐

Intel Intrinsics Guide避坑手册:AVX指令集常见误用场景解析

本文深入解析了使用Intel Intrinsics Guide和AVX指令集时常见的误用场景,包括函数命名混淆、内存对齐陷阱及跨lane操作限制。通过具体代码示例和调试方法,帮助开发者避免程序崩溃与性能倒退,编写出更健壮、高效的SIMD代码。

weixin_29189363的博客 358

在intel / amd平台上包含sse指令加速;在arm平台上使用neon指令

英特尔的SIMD指令集(称为SSE)在许多应用程序中用于提高性能。ARM还在其处理器中引入了一个名为Neon的SIMD指令集。重写为SSE编写的代码以便在Neon上工作非常耗时。 https://github.com/jratcliff63367/sse2neon https://download.youkuaiyun.com/download/qq_28581781/11454310 ...

qq_28581781的博客 2929

【视频处理系列】图像转置的汇编优化

DATE: 2020.7.19 文章目录1、参考2、图像转置算法3、转置算法的汇编优化3.1 ARM/AARCH64优化3.2 X86 SSE2/AVX2优化 1、参考 C语言实现BMP图像处理(逆时针旋转90度) SSE图像算法优化系列四:图像转置的SSE优化(支持8位、24位、32位),提速4-6倍 图像算法的工程优化技术 2、图像转置算法 来自ffmpeg: void libavsample_transpose_c(unsigned char *dst, unsigned char *src, in

优快云明星博主,认证博客专家,视频、Matlab领域优质创作者。 702

矩阵转置的SSE汇编优化艺术以及ARM cortext 汇编优化 .

原文地址:http://blog.youkuaiyun.com/feixiang_john/article/details/8438658 平时我们做图像处理或者视频处理, 很多地方会用到矩阵转置: 比如: DCT变换, 图像旋转, 图像滤波, 以及一些数据的内存行和列的交换等, 会大量使用转置这个动作. 然而由于数据量很大,处理速度很慢!如何来提高处理速度呢? 下面看看分析:  HEVC中有个地方

HEVC_CJL的专栏 3122

16、SSE 浮点运算内建函数详解

本文详细解析了SSE浮点运算相关的内建函数,包括布尔逻辑、加载存储、向量比较、类型转换以及算术运算等常用操作。通过具体代码示例展示了如何使用这些函数进行高效浮点计算,并提供了性能优化建议、应用场景及常见错误处理。SSE内建函数能够充分发挥硬件并行能力,显著提升大规模浮点运算的效率,适用于图形处理、科学计算、音频处理等多个领域。

week9的博客 171

ARM汇编实现矩阵转置

基于ARM汇编的矩阵转置代码,包含运行实例以及仿真结果,方便初学者更加深入理解ARM汇编语言的语言逻辑

SSE命令示例代码(整型、读写控制寄存器、混杂、矩阵变换)

1. SSE的整型指令 // 测试SSE的整型指令 void TestSSEInteger() { __m64 a; a.m64_i16[0] = 654; a.m64_i16[1] = -25; a.m64_i16[2] = 35; a.m64_i16[3] = 45; __m64 b; b.m64_i16[0] = 456; b.m64_i16[1] = 28; b.m6

凌风探梅的专栏 1964

基于C++的图像处理算法实现、INTEL上SSE加速、ARM上NEON加速

图像处理算法实现、INTEL上SSE加速、ARM上NEON加速 1.常用图像处理算子实现 2.常用图像处理算子基于Arm 指令集Neon的实现 3.常用图像处理算子基于intel 指令集SSE的实现

图像预处理SSE加速,90度旋转和垂直镜像

图像预处理操作的90度整倍数旋转、镜像,都可由以下两个基本操作组合得出,测试比单点操作速度提升约3-5倍。 //镜像-1*16单字节矩阵 void MirrorMatrix(__m128i *pSrc_tmp ,__m128i *pDst_tmp , __m128i sort) { _mm_storeu_si128(pDst_tmp, _mm_shuffle_epi8(_mm_loadu_s

机器视觉 2335

命名管道和匿名管道

我们知道进程间是可以通信的。可以达到数据传输、资源共享、事件通知、进程控制等目的。进程间通信主要包括管道、系统IPC,套接字等。 管道分为三种: 普通管道:一是单工,只能单向传输 ,二是仅能在父子进程或者兄弟进程中使用。 流管道:去除了第一种限制,为半双工,可以双向传递, 命名管道:去除了第二种限制 ,可以在很多并不相关的进程 中进行通信。 1、普通管道 int pipe(int f...

ffsiwei的博客 1万+

AutoLISP 学习 (一)

AutoLISP基本语法结构、语法 以括号组成表达式,左右括号一定要成对,单、双引号也要成对,例如: (defun c:hello() (princ "\nHello world!") (prin1) ) 表达式格式:(函数名 操作数 操作数 …),例如: (setq p1 (list 0 0)) (setq p2 (list 10 10)) (setq p3 (list 20 20)) ;;; CAD中画直线,经过p1 p2 p3 (command "LINE" p1 p2 p3 ""

m0_54575622的博客 2123

SSE4.1指令集系列之一

本文要介绍的是SSE4.1指令集中的几条整数指令及其在视频编码中的应用。 1.单指令32字节差分绝对值求和指令 MPSADBW 这条指令类似于SSE的PSADBW,但它实现的功能更强大。包括微软官方网站上对这条指令的说明都不是能够让人一目了然。下面这张图也许可以帮助我们理解: 这条指令的灵活之处在于源操作数和目的操作数的位置都是可选的。如何选择关键在于后面那个...

weixin_34232617的博客 649

ROS2机械臂MPC轨迹规划实战:从MoveIt 2插件配置到参数调优全流程

本文详细介绍了ROS2机械臂MPC轨迹规划的全流程,从MoveIt 2插件配置到参数调优。通过模型预测控制(MPC)技术,实现高精度运动控制,特别适合复杂装配任务。文章包含环境搭建、插件部署、参数设计及实战调优方法,帮助开发者快速掌握ROS2机械臂的MPC轨迹规划技术。

i0j1k2l3m的博客 208

SSE图像算法优化系列四:图像转置的SSE优化(支持8位、24位、32位),提速4-6倍...

一、前言       转置操作在很多算法上都有着广泛的应用,在数学上矩阵转置更有着特殊的意义。而在图像处理上,如果说图像数据本身的转置,除了显示外,本身并无特殊含义,但是在某些情况下,确能有效的提高算法效率,比如很多行列可分离的算法,在很多情况下,行和列方向的算法逻辑随相同,但是由于多方面原因(比如Cache miss, 优化水平等)行列处理时间还是由很大的差异的,这个时候如果转置的耗时和处理时...

weixin_33681778的博客 530

Camera ITS测试

一、手机端设置: 将 CtsVerifier.apk 安装到设备上, 连接上linux主机。 二、主机端设置: 基础:CTS测试运行环境 然后,主机安装python2.7,及numpy/scipy/matplotlib/opencv 栈和 python 成像库。按照下面的命令依次安装: sudo apt­-get install python-­numpy sudo apt-­g...

wangubuntu的专栏 7789

方差迭代计算公式

方差迭代计算过程推导术语约定递推公式过程推导 术语约定 (1)En=1n∑i=1nxi E_n =\frac{1}{n} \sum_{i=1}^{n}x_i \tag{1} En​=n1​i=1∑n​xi​(1) (2)F(n)=∑i=1n(x2−En) F(n) = \sum_{i=1}^{n}{(x^2-E_n)} \tag{2} F(n)=i=1∑n​(x2−En​)(2) (3)V(n)...

weixin_44479136的博客 7921

SSE优化系列十一:SSE优化三次卷积插值算法

前言

I good vegetable a! 2454

对称式目镜设计实例

对称式目镜设计实例

weixin_72050316的博客 1163

游戏引擎学习第117天

在进行数据格式转换时,特别是从 32 位浮动点数到 8 位整数的转换过程中,最大的挑战在于如何处理数据的排列顺序。通过将数据从宽格式转换为交错的内存格式,可以确保数据能够正确地存储和访问,同时保持处理的效率。使得可以高效地对 128 位整数向量执行按位或操作,通常用于处理图形、纹理、颜色或其他位操作密集型任务。这种操作常见于图形渲染、图像处理、加密算法等领域。算术左移和逻辑左移在填充空位时没有区别,都是填充0。算术右移在右移时会保留符号位,确保负数保持负号(填充符号位),而逻辑右移。

虾球 1607

2026年【江苏“信息与未来”编程思维】真题及题解(T6:桌面游戏)

2026年【江苏“信息与未来”编程思维】真题及题解(T6:桌面游戏)

王老师青少年编程 538

【CC精品教程】iTwin capture倾斜摄影建模完整操作流程

【CC精品教程】iTwin capture倾斜摄影建模完整操作流程。包括:无人机航测外业作业流程(像控点布设、航线规划、仿地飞行、航拍)和内业数据处理软件(Pix4d、CC、EPS、PhotoScan、Globalmapper)像控点权重调配、空三加密、DOM、DSM、DEM,DLG生成、等高线生成、高程点提取,点云分类过滤分割、点云生成DEM、三维模型生成等。

智慧空间实验室 3968

矩阵转置及优化——CUDA on ARM Platform夏令营 Day03 课后作业

矩阵转置及优化——CUDA on ARM Platform夏令营

weixin_48266461的博客 950

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

【数据结构】矩阵转置(C/C++语言实现)

文章目录一、 问题二、思路三、代码实现代码优化 一、 问题 将矩阵转置效果如下图 二、思路 1、创建a, b两个数组,a存放转置前的矩阵, b存放转置后的矩阵 2、观察可得转置后的矩阵行列序号互换,此步由b数组实现 三、代码实现 #include <stdio.h> int main() { int a[3][4] = {{1, 2, 3, 4}, {5, 6, 7, 8}, {9, 10, 11, 12}}, b[4][3], i, j; //a[3][4]为转置前数组, b[4][

qq_45280880的博客 1万+

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

矩阵的转置

利用数组储存数据,然后分别赋值,实现矩阵的转置 #include <stdio.h> int main() { int a[2][3]={1,2,3,4,5,6},b[3][2],m,n,j,k; printf("a数组为\n"); for (n=0;n<=1;n++) { for(m=0;m<=2;m++) { b[m][n]=a[n][m]; printf("%4d

weixin_55298603的博客 349

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

C++ 海量数据重组优化:利用 C++ 矢量化移动指令提升异构数据在内存中重新排列与对齐的物理效率

矢量化,或称为 SIMD (Single Instruction, Multiple Data),是一种并行计算技术,允许单个指令同时对多个数据元素执行相同的操作。现代 CPU,如 Intel/AMD 的 SSE/AVX/AVX2/AVX-512 指令集,以及 ARM 的 NEON 指令集,都内置了强大的 SIMD 单元。传统 CPU 操作通常是标量 (Scalar) 操作,即一次处理一个数据。A = B + C (一次操作)

weixin_41455464的博客 393
上一篇: Pentium III处理器的单指令多数据流扩展指令入门
下一篇: SSE指令
DiffenYu
博客等级 码龄14年 14粉丝 29原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值