qq_55655082的博客

由于在 Encoder 和 Decoder 中都需要进行 mask（和矩阵原大小一样，有问题的地方加负无穷） 操作，因此就无法确定这个函数的参数中 seq_len 的值，如果是在 Encoder 中调用的，seq_len 就等于 src_len；这里要做的是，通过 Q 和 K 计算出 scores，然后将 scores 和 V 相乘，得到每个单词的 context vector。不同batch之间句子长度可以不一样，但是每个batch的长度必须是一样的：因此出现一个问题，输入计算的，需要知道每个字的。

即在第一维度第一个元素上的第二维度元素有六个分别是[0,2],[1,2],[1,3],[1,4],[2,1],[3,2];第一维度第二个元素上的第二维度元素也有六个分别是[1,1],[2,2],[3,3],[4,4],[5,5],[6,6];因此对于一个numpy多维array，[:,:,:,:,…第一个元素是[[0,2],[1,2],[1,3],[1,4],[2,1],[3,2]]；第二个元素是[[1,1],[2,2],[3,3],[4,4],[5,5],[6,6]];,从后往前看就是，取出。

每天都加一点点ps：ctrl+F查找Aargparse.ArgumentParser()argparse是一个Python模块：解析命令行参数(参数解析工具)add_subparsers()添加子命令（当程序复杂，不同功能需要不同参数时）sys.argv[]可以看作是一个列表，里边的项为用户输入的参数个数。所以才能用[]提取其中的元素。一个元素是程序本身，随后才依次是外部给予的参数。（我理解的相当于切片）Bbuild—init—函数：这个函数用于对所有独立的输入进行初始化。（独立的输

因此在训练文件中要引入model（model和train文件一定要在一个文件夹下）-----------------测试数据集评估（不需要调优）加限制条件（避免无用信息）优化：tensorboard进行画图输出1,1（横着看）计算对应位置正确的个数：57：74：网络层中是否有特殊层顺序：6.具体实例网络模型加载网络模型预测最大结果：...

false：网络架构替换，参数默认（没训练）true:（训练好的）如何利用现有网络进行修改：vgg分为100类–》10类：（1）加入层加到classifier中：（2）修改（1）（2）第二种方式更小恢复成网络模型（3）陷阱（方式1）保存：加载：应该确保网络模型是想要的模型（要重新引入class模型）—》其实是可以单独引入到model.load中(import)...

模型可视化详细：计算每个节点的参数，有了参数的梯度，就可以选取合适的优化器，以达到整体误差减小的作用。构造优化器调用优化器step方法（利用梯度进行更新）step利用grad对参数进行更新。（但是参数比较小，所以变化不会很大）循环往复，使得loss变小。该循环只是对数据进行一轮学习，因此在循环外再套一层循环：...

1

B站：小土堆+迅雷下载数据集datasetdataloader:加载器，从dataset中取

对应代码：二维矩阵**[[**尺寸只有高和宽，并不满足下面图片的参数（尺寸变换）接下来用卷积函数：变换数据input，想变换的大小：padding空白处为0

B站：小土堆。

B站：小土堆transforms主要是对图片进行变化