python0930233的博客

—把图片离散化为一排向量将图片拆为若干patch，每个patch可以看作一个字，再加上位置信息就可以输入到transformer中。ViT的核心是将图像视为一系列局部块的序列（类似自然语言中的单词），通过Transformer的全局自注意力机制捕捉图像中的长距离依赖关系。将输入图像（如224×224）分割为固定大小的非重叠块（例如16×16像素），每个块展平为向量。例如，224×224的图像会生成196个（14×14）块。

这是下游的文字分类任务。bert就是一个特征提取器，在上游进行MLM和NSP预训练，之后bert就可以从句子中提取特征，做分类任务。

今天学习的是第七节，自然语言处理与bert。

今天学的是第六节：特征提取和无监督学习。不能再玩了……

1.Conv2d就是卷积，其参数依次为：输入特征图的数量、输出特征图数量（即卷积核数量）、卷积核大小、步长、padding。4.归一化：避免受数据量纲影响，让模型关注数据的分布，保持学习有效性，缓解梯度消失和梯度爆炸。1.rule：计算方便、可以在一定程度上缓解梯度消失。2.pool（3，2）表示3格一pool，每次走2格。一、一般将softmax()的输出视作模型预测的概率分布。需要的参数：预测的分布、真实值的下标。2.用小卷积核代替大的卷积核。二、分类任务的Loss：交叉熵损失。

前两天学校有课加上要回家所以没学习，今天开始继续学习(●ˇ∀ˇ●)今天学第五节下：图片分类半监督。

今天继续学习食物分类图片分类的模型最重要的就是设计维度变化。

今天学习的是第五节上 图像分类实战——食物分类目的：通过模型预测图片是哪类食物。

I：输入特征图大小；P：padding；S：步长stride。2.怎么让特征图变小？【不常用，会丢失信息且引入计算】一、今天学了分类任务。

能够预测到好的y。根据预测值y‘与真实值y的差值不断训练模型，使最终能够预测得到比较好的y。一、把实战班第三节下终于看完了，但是代码也是似懂非懂的。