qq_43152622的博客

对PyTorch中gather的一些理解。

本篇博文是学习attention is all you need这篇论文中的transfomer。探讨了其中的原理并对论文进行了复现

论文中的核心思想研究的问题—Image Caption为图片自动生成caption的任务类似于场景理解，这是cv领域的一个核心问题。要想解决这个问题，不仅要求你的模型能够识别出图片中有什么物体，还得能够将图片中出现的场景与自然语言相联系。问题的核心是模仿人类将大量重要的视觉信息压缩成一句抽象的描述性语言。解决问题的思路2014年左右由于AlexNet,VGGNet等深度卷积神经网络的出现，使得Image Caption成为了一项研究的热点。一种新的解决问题的范式是，利用CNN当作提取图像特征向量的E

本文是学习deeplizard中PyTorch课程做的笔记。