三维视图详解keras.permute_dimensions和numpy.transpose转置效果

原创 已于 2022-05-17 18:14:49 修改 · 9.6k 阅读 · 46 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#keras #深度学习 #人工智能

于 2019-08-10 10:13:24 首次发布
本文通过三维视图详细解释了keras.permute_dimensions和numpy.transpose在转置3D数据时的效果。通过五个实例展示了不同维度的交换过程，帮助理解深度学习中4维数据转置的逻辑。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

原文地址icon-default.png?t=M4ADhttps://luoyoyo.com/articles/4f12ec0ba42553838be4917fcab46398

二维的转置大家都很熟悉，横轴变纵轴嘛，

1 2 3                                1 4 7

4 5 6    转一下变成       2 5 8

7 8 9                               3 6 9

但是对于深度学习来说，尤其在transformer以及后来的bert模型出世以后，需要对多个大批次的多个部分的二维数据进行转置，已进行打分机制的计算（Self Attention）,那就是4维数据的转置。

最低0.47元/天 解锁文章

200万优质内容无限畅学
pytorch permute维度转换
jacke121的专栏
10-14 1万+
permute prediction = input.view(bs, self.num_anchors, self.bbox_attrs, in_h, in_w).permute(0, 1, 3, 4, 2).contiguous() 转置： import torch x = torch.lin...
Keras深度学习实战（21）——神经风格迁移详解
盼小辉丶的博客
08-28 7594
在神经风格迁移中，我们需要一个内容图像和一个风格图像，我们的目标是保持内容图像的同时融和风格图像中的风格样式，以组合这两个图像生成全新图像。在本节中，首先介绍了神经风格迁移的核心思想与风格迁移图像的生成流程，然后利用 Keras 从零开始实现了神经风格迁移算法，可以通过修改模型中的超参数来生成不同观感的图像。......
对keras.permute_dimensions和numpy.transpose空间维度转置过程的理解（Axis的理解）
Miracle8070
03-10 5150
keras.permute_dimensions和numpy.transpose，这两个函数的作用是对矩阵进行维度的转置， 具体请参考官方文档，这里只给出矩阵维度转置是怎么理解的？ 1. 写在前面 今天遇到一个时间序列分析的任务，使用了Attention机制，看代码之后，有几个空间转置的过程其实有点懵。 所以通过查资料理解了一下空间维度转置，顺便理解了一下三维矩阵的沿着某一个轴的加法，我把自己的理...
K.reshape & K.permute_dimensions
一厘米专栏
09-02 6238
对K.reshape 和K.permute_dimensions 进行简单的测试和理解 代码顺序如下： 定义一个shape=(1, 3, 4)的变量qw qw reshape 为 shape=(-1, 3, 1, 4) 的变量 将qw 进行装置 将qw 还原到reshape后 from keras import backend as K qw=K.constant([ [...
# Keras中的Permute层
热门推荐
Chenglin(Ben) Yu's Miracle
07-14 1万+
Keras中的Permute层 Kearas中的一切层都看成函数就好理解了。 参考： [1] https://keras.io/zh/layers/core/ [2] https://keras-cn.readthedocs.io/en/latest/layers/core_layer/ Permute keras.layers.Permute(dims) 根据给定的模式(dim)置换输入的维度...
3D空间转换（位移、旋转、立体呈现）
llssdshiyi的博客
01-25 1661
属性：transform，z轴垂直于屏幕，正值方向指向用户，负值方向指向屏幕里面。 空间位移： 复合语法：transform:translate3d(x,y,z); 单独语法：transform:translateX(值);transform:translateY(值);transform:translateZ(值); x、y轴上的改变与2d位移没有区别，z轴上的移动需要给父级添加perspective: 像素单位数值;实现透视效果。 perspective常用数值范围在800-1200之间.
matlab Permute Rearrange dimensions of N-D array
#+!
07-09 1253
Syntax B = permute(A,order) Description B = permute(A,order) rearranges the dimensions of A so that they are in the order specified by the vector order. B has the same values of A but the
Keras入门笔记(番一)：从源码分析K.batch_dot及与dot的区别
身披白袍的博客
11-14 4717
动机 矩阵和向量的乘法各种名称都有，甚至相互混杂，在不同框架里的命名也不一样，每每都会陷入这些Magic中。例如，同样是dot对向量shape= (n,)和一维张量shape=(n,1)而言都不一样，无论总结过多少次，像我们这种torch和tensowflow、matlab轮着写的人，总是不经意间就会翻车。 好在keras提供了高级的接口，至少在tensorflow、theano以及可能会有的mx...
用tensorflow的layers.Layer模块改写class SelfAttention(nn.Module): def init(self,in_c,out_c,fm_sz,pos_bias = False): super(SelfAttention,self).init() self.w_q = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.w_k = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.w_v = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.pos_code = self.__getPosCode(fm_sz,out_c) self.softmax = nn.Softmax(dim = 2) self.pos_bias = pos_bias def __getPosCode(self,fm_sz,out_c): x = [] for i in range(fm_sz): x.append([np.sin,np.cos][i % 2](1 / (10000 ** (i // 2 / fm_sz)))) x = torch.from_numpy(np.array([x])).float() return torch.cat([(x + x.t()).unsqueeze(0) for i in range(out_c)]) def forward(self,x): q,k,v = self.w_q(x),self.w_k(x),self.w_v(x) pos_code = torch.cat([self.pos_code.unsqueeze(0) for i in range(x.shape[0])]).to(x.device) if self.pos_bias: att_map = torch.matmul(q,k.permute(0,1,3,2)) + pos_code else: att_map = torch.matmul(q,k.permute(0,1,3,2)) + torch.matmul(q,pos_code.permute(0,1,3,2)) am_shape = att_map.shape att_map = self.softmax(att_map.view(am_shape[0],am_shape[1],am_shape[2] * am_shape[3])).view(am_shape) return att_map * v
06-08
super(SelfAttention, self).__init__() self.w_q = tf.keras.layers.Conv2D(filters=out_c, kernel_size=1, input_shape=[None, None, in_c]) self.w_k = tf.keras.layers.Conv2D(filters=out_c, kernel_size=1,...
[神经风格迁移]用卷积神经网络将艺术照进现实（Keras版本，每行代码都解析的那种噢）
weixin_58420301的博客
03-18 6207
通过卷积神经网络实现神经风格转移。每一句代码基本都有详细解析哈，实现起来简单到复制粘贴。在获得风格照片的同时也能了解到卷积神经网络的魅力。只需有最最基础的Keras功底即可
keras实现自注意力机制
weixin_44992737的博客
04-26 1626
keras自注意力机制实现
np.transpose()在三维数组中的详解
一去不复返的通信er
07-01 2131
  创建一个2×3×4(深度×行×列)的三维数组： import numpy as np a=np.arange(24).reshape((2,3,4)) print(a) >[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [[12 13 14 15] [16 17 18 19] [20 21 22 23]]]   注意： reshape函数中第一个参数2代表深度，第二个参数3代表行，第三个参数4代表列。   在坐标系中可以理解为： )
python numpy array转置_python 中的数组转置和轴对称，T/transpose/swapaxes
weixin_39646412的博客
12-13 489
最近在学python的数据分析，于是发现了一本好书《利用python进行数据分析》。说实话前两章不知道作者在说什么(无奈)，然后我就直接跳到了第四章(numpy基础：数组和矢量计算)，好了，不啰嗦了，正文开始。声明：作者用的是python2.7转置是重塑的一种特殊形式，他返回的是源数据的视图(不会进行任何复制操作，这一点要和花式索引不太一样，后者总是将数据复制到新数组中)。 完成转置可以通过三种...
keras总结笔记（二）基础要点总结
熊猫小妖的AI世界
09-05 434
基础要点总结 （1）标量、向量、矩阵、张量 张量的3个属性： 轴（ndim）、形状(shape)、数据类型(dtype) （2）批处理的图像数据： TensorFlow : [batch_size, height, width, channels] Theano: [batch_size, channels, height, width] Keras 框架同时支持这两种格式。 （3）视频数据 [samples, frames, height, width, channels ] 举例来讲： 一个以
keras在batch_size前添加维度
qq_39321513的博客
08-17 890
keras在batch_size前添加维度 因为普通的keras.layer.Permute() 默认是保持第0维（batch_size那维）的，再怎么permute都是第一维到最后一维的shape变换，根本不能在第0维前添加一维。（保持第0维的意思是第0维不参与，给隐藏了）...
Keras--常用函数
得克特
08-22 2294
Keras Model保存 keras.callbacks.ModelCheckpoint(filepath,monitor=‘val_loss’,verbose=0,save_best_only=False, save_weights_only=False, mode=‘auto’, period=1) 参数说明： filename：字符串，保存模型的路径 monitor：需要监视的值，通常有...
理解python中numpy.transpose的用法（坐标系图解）
一抹阳光的博客
07-07 2824
在看一些文献的源码时，经常能看到numpy.transpose的应用，对于高维数组总是会令人费解，有时就会绕进去，查阅资料时看到一篇博客通过画图分析和代码验证，让我对transpose的用法恍然大悟的感觉，个人感觉十分便于理解，但是我发现原作者文章中的三维坐标有一点点问题（个人理解，若理解有误，欢迎指正）。 参考博客： 首先我们先看一个代码： >>> import numpy as np >>> x=np.arange(4).reshape((2,2)) >>
Keras 主要的层函数
沧夜的成长日记
01-05 1973
Keras主要的层函数清单
A = K.permute_dimensions(A, (0, 3, 2, 1))
05-31
具体来说，`K`是Keras的后端，`permute_dimensions()`函数可以用于改变张量的维度顺序。第一个参数`A`是要改变维度顺序的张量，第二个参数`(0, 3, 2, 1)`表示要将原来的维度顺序`(0, 1, 2, 3)`改为`(0, 3, 2, 1)`。 ...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值