weixin_53631107的博客

1x1卷积是实现这些操作的高效方法，通过调整通道数，能够灵活地进行特征降维和升维，在许多现代CNN架构中得到广泛应用。在深度网络中，特征降维可以通过减少特征图的通道数，压缩网络，减少参数和计算量。例如，在Inception模块中，通过1x1卷积先进行降维，再进行3x3或5x5卷积，可以显著减少参数量。通过降维，再进行小尺寸卷积（如3x3卷积），然后再升维，可以在保持高性能的同时大大减少参数数量。在输入特征图的每个位置，1x1卷积仅对该位置的通道进行线性组合，而不影响空间维度。它有许多独特的优势和应用场景。

1）对于输入，首先进行embedding操作，即将输入映射为向量的形式，包含两部分操作，第一部分是input embedding：例如，在NLP领域，称为token embedding，即将输入序列中的token（如单词或字符）映射为连续的向量表示；Query为Masked多头自注意力的输出。通过除以根号dk，提高训练的稳定性。多头自注意力机制：核心部分，例如，在CV领域，经过embedding层后的输入为[N, HW, C]，N为Batch num，HW为像素个数，每个像素映射为一个维度为C的向量；

原因：torch的cu版本与使用的。

简而言之，向量是一维的，可以看作是一阶张量，而张量是一个更广泛的概念，可以有多个维度。在深度学习中，张量是非常重要的数据结构，用于表示和处理多维数据。在更抽象的数学领域，向量可以看作是一个一维数组，其中的元素可以是实数、复数等。例如，一个二维张量可以表示一个矩阵，一个三维张量可以表示一组矩阵，更高维度的张量可以用来表示更复杂的数据结构。张量是向量和矩阵概念的推广。标量（单个数字）可以看作是零阶张量，向量是一阶张量，矩阵是二阶张量，以此类推。向量是张量的一种特殊情况，具体来说，向量可以看作是一阶张量。

z01、z02、zo3等是分包后缀，里面应该还有个zip格式的同名压缩包，这是ZIP分段压缩的文件，需要所有的分段才可以完全解压 .将所有分段文件放在一个文件夹下，解压其中的zip格式的同名压缩包，就会得到一个解压缩文件，里面就是所有的z01、z02.....的所有文件，就可以看到所有的文件了。注意：需要保证下载的z01等包下载完整 才可解压成功，否则报错。全部下载完后解压 .zip就可以了。

以pytorch为例：conda create --n pytorch python=3.9 -y。然后打开Anaconda Prompt。别放在C盘就行，anconda很大！输入红色方框的内容。

问一下为什么python3.11安装pytorch或者d2l环境经常出错。

安装pytorch时候需要选择CUDA版本。

动手学习深度学习经常出现：PermissionError: [WinError 5] 拒绝访问。: ‘../data‘

根据视频方法来安装，结果运行时却告诉我：报错ModuleNotFoundError: No module named ‘torch‘ 可是我明明已经装了torch。

进入到Anaconda的安装目录，语句：cd Anaconda的安装目录。新版本之后，发现开始菜单没有Anaconda prompt等一系列的快捷方式。查询了很多资料，也卸载重装了，对于小白来说，有些太复杂听不懂。我安装的路径是F:\anaconda3。第一步：win+R输入cmd进入。