Tian__Gao的博客

Vision Transformer一、Transformer起源（李宏毅）1.self-attention一、Transformer起源（李宏毅）1.self-attention现实中有很多情况需要把a set of vectors（may change length）作为输入，比如一段英文“this is a cat”，可以把其进行one-hot encoding（独热编码）也可以对其进行word embedding（给每个词一个向量，这个向量有语义的信息，比如说把word embedding画出

CV领域常用词及其含义一、backbone二、head三、neck四、bottleneck五、GAP六、embedding七、pretext task和downstream task八、warm up九、end to end一、backbone在神经网络中，尤其是CV领域，一般先对图像进行特征提取（常见的有vggnet，resnet，inception等等），这一部分是整个CV任务的根基，因为后续的下游任务都是基于提取出来的图像特征去做文章（比如分类，生成等等）。所以将这一部分网络结构称为backbon

RoI Pooling 和 RoI Align一、基本概念一、基本概念RoI（Region of Interest）是通过不同区域选择方法，从原始图像（original image）得到的候选区域（proposal region）

以管理员身份打开cmd依次输入ipconfig /releaseipconfig /allipconfig /flushdnsipconfig /renewnetsh int ip set dnsnetsh winsock reset然后重启电脑就OK了

LSTM和GRU的感性理解一、RNN的缺点——短时记忆二、LSTM1.整体结构一、RNN的缺点——短时记忆RNN 会受到短时记忆的影响。如果一条序列足够长，那它们将很难将信息从较早的时间步传送到后面的时间步。 因此，如果你正在尝试处理一段文本进行预测，RNN 可能从一开始就会遗漏重要信息。在反向传播期间，RNN 会面临梯度消失的问题。 梯度是用于更新神经网络的权重值，消失的梯度问题是当梯度随着时间的推移传播时梯度下降，如果梯度值变得非常小，就不会继续学习。因此，在递归神经网络中，获得小梯度更新的层

目录一、类基础1.初始化类2.实例属性13.实例属性24.类属性5.实例方法6.私有属性7.私有方法8.@classmethod方法19.@classmethod方法210.staticmethod方法11.property112.property213.类的继承14.子类方法的重构15.子类与父类的关系16.多态二、TSN补充学习0.argparse模块1.argparse模块12.argparse模块23.argparse模块34.argparse模块45.argparse模块56.argparse模块

目录一、Colab简介和使用说明1.Colab简介2.Colab使用说明2.1两种使用方式2.1.1连接谷歌云盘2.1.2不连接谷歌云盘2.2具体使用细节2.2.1GPU设置2.2.2程序管理2.2.3具体编程二、TSN代码复现1.数据集准备和处理1.1数据集下载1.2数据集处理一、Colab简介和使用说明1.Colab简介colab是谷歌的一个线上深度学习训练平台，对于刚进实验室还没分配到工作站的研究生非常之友好。但是分配到工作站以后，不管是算力还是金钱还是方便程度，还是工作站香。网址： http

开个新的文档，linux（ubuntu）中遇到的各种小问题都放到这里面1.怎么启动没有pycharm快捷键的pycharm进入pycharm安装路径下的bin目录下，找到pycharm.sh文件，然后打开终端，输入命令：./pycharm.sh