三维视图详解keras.permute_dimensions和numpy.transpose转置效果

已于 2022-05-17 18:14:49 修改
阅读量9.6k 收藏 46
点赞数 27
CC 4.0 BY-SA版权
分类专栏： tensorflow keras nlp 文章标签： keras 深度学习 人工智能
于 2019-08-10 10:13:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_42078618/article/details/99050835
本文通过三维视图详细解释了keras.permute_dimensions和numpy.transpose在转置3D数据时的效果。通过五个实例展示了不同维度的交换过程，帮助理解深度学习中4维数据转置的逻辑。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

原文地址icon-default.png?t=M4ADhttps://luoyoyo.com/articles/4f12ec0ba42553838be4917fcab46398

二维的转置大家都很熟悉，横轴变纵轴嘛，

1 2 3                                1 4 7

4 5 6    转一下变成       2 5 8

7 8 9                               3 6 9

但是对于深度学习来说，尤其在transformer以及后来的bert模型出世以后，需要对多个大批次的多个部分的二维数据进行转置，已进行打分机制的计算（Self Attention）,那就是4维数据的转置。

最低0.47元/天 解锁文章

200万优质内容无限畅学
pytorch permute维度转换
jacke121的专栏
10-14 1万+
permute prediction = input.view(bs, self.num_anchors, self.bbox_attrs, in_h, in_w).permute(0, 1, 3, 4, 2).contiguous() 转置： import torch x = torch.lin...
Keras深度学习实战（21）——神经风格迁移详解
盼小辉丶的博客
08-28 7567
在神经风格迁移中，我们需要一个内容图像和一个风格图像，我们的目标是保持内容图像的同时融和风格图像中的风格样式，以组合这两个图像生成全新图像。在本节中，首先介绍了神经风格迁移的核心思想与风格迁移图像的生成流程，然后利用 Keras 从零开始实现了神经风格迁移算法，可以通过修改模型中的超参数来生成不同观感的图像。......
对keras.permute_dimensions和numpy.transpose空间维度转置过程的理解（Axis的理解）
Miracle8070
03-10 5146
keras.permute_dimensions和numpy.transpose，这两个函数的作用是对矩阵进行维度的转置， 具体请参考官方文档，这里只给出矩阵维度转置是怎么理解的？ 1. 写在前面 今天遇到一个时间序列分析的任务，使用了Attention机制，看代码之后，有几个空间转置的过程其实有点懵。 所以通过查资料理解了一下空间维度转置，顺便理解了一下三维矩阵的沿着某一个轴的加法，我把自己的理...
K.reshape & K.permute_dimensions
一厘米专栏
09-02 6236
对K.reshape 和K.permute_dimensions 进行简单的测试和理解 代码顺序如下： 定义一个shape=(1, 3, 4)的变量qw qw reshape 为 shape=(-1, 3, 1, 4) 的变量 将qw 进行装置 将qw 还原到reshape后 from keras import backend as K qw=K.constant([ [...
# Keras中的Permute层
热门推荐
Chenglin(Ben) Yu's Miracle
07-14 1万+
Keras中的Permute层 Kearas中的一切层都看成函数就好理解了。 参考： [1] https://keras.io/zh/layers/core/ [2] https://keras-cn.readthedocs.io/en/latest/layers/core_layer/ Permute keras.layers.Permute(dims) 根据给定的模式(dim)置换输入的维度...
3D空间转换（位移、旋转、立体呈现）
llssdshiyi的博客
01-25 1656
属性：transform，z轴垂直于屏幕，正值方向指向用户，负值方向指向屏幕里面。 空间位移： 复合语法：transform:translate3d(x,y,z); 单独语法：transform:translateX(值);transform:translateY(值);transform:translateZ(值); x、y轴上的改变与2d位移没有区别，z轴上的移动需要给父级添加perspective: 像素单位数值;实现透视效果。 perspective常用数值范围在800-1200之间.
matlab Permute Rearrange dimensions of N-D array
#+!
07-09 1250
Syntax B = permute(A,order) Description B = permute(A,order) rearranges the dimensions of A so that they are in the order specified by the vector order. B has the same values of A but the
Keras入门笔记(番一)：从源码分析K.batch_dot及与dot的区别
身披白袍的博客
11-14 4716
动机 矩阵和向量的乘法各种名称都有，甚至相互混杂，在不同框架里的命名也不一样，每每都会陷入这些Magic中。例如，同样是dot对向量shape= (n,)和一维张量shape=(n,1)而言都不一样，无论总结过多少次，像我们这种torch和tensowflow、matlab轮着写的人，总是不经意间就会翻车。 好在keras提供了高级的接口，至少在tensorflow、theano以及可能会有的mx...
用tensorflow的layers.Layer模块改写class SelfAttention(nn.Module): def init(self,in_c,out_c,fm_sz,pos_bias = False): super(SelfAttention,self).init() self.w_q = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.w_k = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.w_v = nn.Conv2d(in_channels = in_c,out_channels = out_c,kernel_size = 1) self.pos_code = self.__getPosCode(fm_sz,out_c) self.softmax = nn.Softmax(dim = 2) self.pos_bias = pos_bias def __getPosCode(self,fm_sz,out_c): x = [] for i in range(fm_sz): x.append([np.sin,np.cos][i % 2](1 / (10000 ** (i // 2 / fm_sz)))) x = torch.from_numpy(np.array([x])).float() return torch.cat([(x + x.t()).unsqueeze(0) for i in range(out_c)]) def forward(self,x): q,k,v = self.w_q(x),self.w_k(x),self.w_v(x) pos_code = torch.cat([self.pos_code.unsqueeze(0) for i in range(x.shape[0])]).to(x.device) if self.pos_bias: att_map = torch.matmul(q,k.permute(0,1,3,2)) + pos_code else: att_map = torch.matmul(q,k.permute(0,1,3,2)) + torch.matmul(q,pos_code.permute(0,1,3,2)) am_shape = att_map.shape att_map = self.softmax(att_map.view(am_shape[0],am_shape[1],am_shape[2] * am_shape[3])).view(am_shape) return att_map * v
06-08
super(SelfAttention, self).__init__() self.w_q = tf.keras.layers.Conv2D(filters=out_c, kernel_size=1, input_shape=[None, None, in_c]) self.w_k = tf.keras.layers.Conv2D(filters=out_c, kernel_size=1,...
[神经风格迁移]用卷积神经网络将艺术照进现实（Keras版本，每行代码都解析的那种噢）
weixin_58420301的博客
03-18 6204
通过卷积神经网络实现神经风格转移。每一句代码基本都有详细解析哈，实现起来简单到复制粘贴。在获得风格照片的同时也能了解到卷积神经网络的魅力。只需有最最基础的Keras功底即可
keras实现自注意力机制
weixin_44992737的博客
04-26 1621
keras自注意力机制实现
np.transpose()在三维数组中的详解
一去不复返的通信er
07-01 2125
  创建一个2×3×4(深度×行×列)的三维数组： import numpy as np a=np.arange(24).reshape((2,3,4)) print(a) >[[[ 0 1 2 3] [ 4 5 6 7] [ 8 9 10 11]] [[12 13 14 15] [16 17 18 19] [20 21 22 23]]]   注意： reshape函数中第一个参数2代表深度，第二个参数3代表行，第三个参数4代表列。   在坐标系中可以理解为： )
python numpy array转置_python 中的数组转置和轴对称，T/transpose/swapaxes
weixin_39646412的博客
12-13 487
最近在学python的数据分析，于是发现了一本好书《利用python进行数据分析》。说实话前两章不知道作者在说什么(无奈)，然后我就直接跳到了第四章(numpy基础：数组和矢量计算)，好了，不啰嗦了，正文开始。声明：作者用的是python2.7转置是重塑的一种特殊形式，他返回的是源数据的视图(不会进行任何复制操作，这一点要和花式索引不太一样，后者总是将数据复制到新数组中)。 完成转置可以通过三种...
keras总结笔记（二）基础要点总结
熊猫小妖的AI世界
09-05 434
基础要点总结 （1）标量、向量、矩阵、张量 张量的3个属性： 轴（ndim）、形状(shape)、数据类型(dtype) （2）批处理的图像数据： TensorFlow : [batch_size, height, width, channels] Theano: [batch_size, channels, height, width] Keras 框架同时支持这两种格式。 （3）视频数据 [samples, frames, height, width, channels ] 举例来讲： 一个以
keras在batch_size前添加维度
qq_39321513的博客
08-17 890
keras在batch_size前添加维度 因为普通的keras.layer.Permute() 默认是保持第0维（batch_size那维）的，再怎么permute都是第一维到最后一维的shape变换，根本不能在第0维前添加一维。（保持第0维的意思是第0维不参与，给隐藏了）...
Keras--常用函数
得克特
08-22 2287
Keras Model保存 keras.callbacks.ModelCheckpoint(filepath,monitor=‘val_loss’,verbose=0,save_best_only=False, save_weights_only=False, mode=‘auto’, period=1) 参数说明： filename：字符串，保存模型的路径 monitor：需要监视的值，通常有...
理解python中numpy.transpose的用法（坐标系图解）
一抹阳光的博客
07-07 2816
在看一些文献的源码时，经常能看到numpy.transpose的应用，对于高维数组总是会令人费解，有时就会绕进去，查阅资料时看到一篇博客通过画图分析和代码验证，让我对transpose的用法恍然大悟的感觉，个人感觉十分便于理解，但是我发现原作者文章中的三维坐标有一点点问题（个人理解，若理解有误，欢迎指正）。 参考博客： 首先我们先看一个代码： >>> import numpy as np >>> x=np.arange(4).reshape((2,2)) >>
Keras 主要的层函数
沧夜的成长日记
01-05 1972
Keras主要的层函数清单
A = K.permute_dimensions(A, (0, 3, 2, 1))
05-31
这行代码的作用是将张量A的维度按照指定的顺序进行重新排列。 具体来说，`K`是Keras的后端，`permute_dimensions()`函数可以用于改变张量的维度顺序。第一个参数`A`是要改变维度顺序的张量，第二个参数`(0, 3, 2, 1)`表示要将原来的维度顺序`(0, 1, 2, 3)`改为`(0, 3, 2, 1)`。 例如，如果`A`的形状为`(batch_size, height, width, channels)`，那么执行`K.permute_dimensions(A, (0, 3, 2, 1))`后，`A`的形状将变为`(batch_size, channels, width, height)`。 这个操作在一些深度学习模型中经常用到，比如卷积神经网络中，将图片的通道维度放在最后一个维度可以更好地适应卷积操作的计算方式。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值