1.维度变换有如下几个操作:第一种:view与reshape:注意要符合物理意义上的变换;比如下面的例子,就很适合放在全连接层里面:

第一种:view与reshape:注意要符合物理意义上的变换;比如下面的例子,就很适合放在全连接层里面:

不同的表述会对数据有不一样的理解:

但reshape也会有致命的问题:会丢失掉维度信息;恢复会出问题;

第二种:unsqueeze的使用:
插入维度的例子:

其中要注意的是插入位置,0就是第一个位置之前,-1是最后一个之后;
正负要注意在之前插入还是之后插入的区别。
下面是一个具体的案例,加入要把f叠加在b上,但维度神马的都不一样,这时就要用到维度变换了。

而squeeze是用来挤压维度的:

第三种是expand和repeat:
区别为:
expand只有在有需要的时候才会真正复制数据,而repeat会直接复制数据;

在使用expand时,-1表示保持原来的维度不变;

主动复制数据的repeat:但一般不建议用repeat;

第四种:一个转置操作:

tanspose:要注意数据的维度顺序必须和存储顺序一致;


第五种:permute,一个更方便的交换操作:

一直在强调的格式:
![]()
本文详细介绍了深度学习中常见的维度变换操作,包括view与reshape、unsqueeze、squeeze、expand和repeat以及transpose与permute。这些操作对于数据的重塑和模型构建至关重要,尤其在全连接层的应用中。注意reshape可能导致维度信息丢失,unsqueeze用于插入维度,squeeze用于去除单元素维度,expand则在需要时复制数据,而repeat会直接复制。了解并熟练掌握这些技巧能有效提升模型构建和训练的效率。
2064

被折叠的 条评论
为什么被折叠?



