weixin_63719412的博客

原创 league-akari构建

第一步：能打开github。

原创 各种监督训练

原创 生成任务解析——Transformer的Decoder部分

一句话经过encoder得到每个字的特征——求出每个字的k,v;start token经过masked self—attention得到一个字，求出这个字的q，对每个字进行q*k*v然后相加得到V，这种做法可以防止产生的内容跑偏导致不符合主题。masked self—attention：只能看到前面以及当前的内容，看不了之后的内容；防止Decoder“看答案”，本质上是乘以一个上三角矩阵，不看的位置设为负∞，经过softmax，不能看的位置无限接近0.训练：label作为输入——整体并行。

原创 Bert实战——情感分类任务——评论分类

模块思想——数据，模型，训练的代码放到model_utils中；单独用main文件配置超参数以及随机数种子设置，并且进行训练。

原创 Anaconda的基本使用

conda info --envs #查看所有创建的python环境。conda activate 环境名 #激活对应的环境。conda list #查看当前环境下所有的软件包。conda deactivate #退出环境。

原创 self——attention自注意力机制与bert

图片——矩阵的形式声音文字——怎样让神经网路知道这个字是这个“字”呢？one-hot encoding：编码为向量——大概有两万多个字，在那个字的位置为1，其他位置为0——但是向量维度太多，空间浪费，而且难以体现字与字之间的关系。word-embedding，放在“语义空间”中，相同语义的字靠的越近。文字的输入：利用字在one-hot中的位置对应的编码作为输入，例如“我”对应21101这个位置是1，那么用21101表示“我”。我爱你，这个爱是动词这爱，爱的深吗——前面是名词，后面是动词。

原创 深度学习项目——图片分类框架（注释详尽）

1，本项目有两种数据，一种是有标签数据——有x，有y的，y就是标签，x是图片本身。一种是无标签数据——有x，没有y。也就是说有标签数据就是知道类别的图片，无标签数据就是不知道类别的图片。2，本项目图片有11种类别。

原创 深度学习入门项目--新冠感染人数预测

1，模型也是一个类，继承nn.Module2，__init__是初始化模型的架子3，forward是进行具体计算# 定义模型# 初始化，模型的架子,需要传入模型的维度# 这个模型的维度是93，因为有93列，最后输出1个结果，也就是输出是一维"""1,按理来说可以直接用nn.linear(93, 1)直接搞定2，但是我们需要在之间加一点故事，不要太急着出结果"""# 全连接，inDim->128# 经过激活函数# 全连接128->1# 模型的计算"""

原创 深度学习代码架子

1，pre_y是计算值# 定义一个模型，模型就是函数。

原创 数组的嵌套使用

输入N个数（N大于0，小于等于100），每个数在1~100之间，将每个数从大到小输出，以及每个数的个数，如果有相同个数的数字，输出最大的那个。使用嵌套数组，因为数的个数少，每个数大小也做了1~100的限制，直接开辟两个数组，数组flag[105],temp[105].数组flag用于实现计数，输入的数字对应该数组的下标的内容加一。数组temp用于更新相同个数的数的大小，每次大的数会覆盖小的数。

原创 初识神经网络

类比人类的神经元，尾部接受信息，头部传递信息。但是传递信息是有阈值的，达到阈值才会传递，从而引出“激活函数”。

原创 初识深度学习

机器学习往往是可解释的，是有数学依据的。

原创 leetcode.53最大子数组和分析（贪心）

leetcode刷题最大子数组和，菜鸟菜鸟。