m0_52186223的博客

这篇文章的主要工作在于，是将transformer引入到目标检测这一类计算机视觉的任务中，transformer的优势在于：模型的通用性和高上限(gpt是最好的例子，算力和效果正相关)；相较于以往的一阶段、二阶段的目标检测，DETR会抛弃之前的先验框，先验中心点角点这些人工设计的步骤，这个算是transfomer的附加优势，其注意力机制可以解决之前先验框问题。旧的模型中，之所以有先验框很大一部分原因是框的解空间太大了，没必要也难以穷举，于是选择人工设计一些策略来输入一些先验信息。

在学习了resnet的论文之后，为了便于理解，变想要复现文论中34层的resnet模型。

resnet 的残差网络机制有效的解决了网络退化问题，可以说是深度学习发展史上一座里程碑，于此记录阅读中学习到的。

利用pytorch搭建VGG16，代码中包含了注释和对一些函数的理解。同时附有数据集，教学视频等

什么是卷积？为什么使用卷积？卷积的优势的原理是什么？什么是可分离卷积？这篇笔记主要以花书为主，结合大佬的博客，力求从全局的角度学习。

在学习了一段时间的《机器学习实战》后，发现该书针对的是实战，有很多公式推导和原理讲解都一笔带过，于是便购买了周志华的西瓜书进行学习，这篇笔记也多来自西瓜书，主要是熟悉一些概念词。

前言部分是对整个深度学习的发展历史的一种俯视，想要进入该领域，对整个发展的起承转合还是需要有一个了解的。从硬编码到机器学习到表示学习到深度学习，这是一个具有时间序列的发展，可以看到深度学习得发展是十分曲折，很有幸，我能站在第三次浪潮之中，希望能窥见大门。