清风等雨的博客

在这篇文章中，简单地介绍3D视觉相关内容。

本篇文章简单介绍了生成模型的应用以及扩散模型，具体可见相关文档。

简单介绍了一下强化学习，以及一些相应的算法

本文简单介绍了一下自监督学习(由于以前没有接触过，所以也不是很清楚具体，大都是按照PPT中的内容点到为止，具体介绍可以看这里。

在这一讲中，主要介绍了对CNN的可视化以及了解图像中的哪些像素对分类起作用，其实就是通过可视化来了解CNN在训练过程中的作用，在各个层中会去寻找哪些特征。此外，介绍了风格迁移，即确定一种风格，如何将其他风格的图像上的内容转移到这种风格上。

在这一讲中，我们重点了解了语义分割以及目标检测。同时，介绍了一下实例分割和一些其他的与目标检测相结合的视觉任务。

在这讲中，我们了解了深度学习在视频中的一些应用，以及如何应用，如使用3D卷积网络来对视频分类，使用前期融合或者后期融合，再用2D卷积网络来分类；利用光流的特点，使用双流网络来对视频进行分类；结合循环神经网络和卷积神经网络的优点，使用循环卷积网络对长序列的视频进行分类(或者检测等)，对于循环卷积网络，可以借鉴自注意力机制来对改善其运行缓慢的不足等。可以利用不同模态的数据来分离同一个视频中不同的声音等。

本文讲解了注意力机制和Transformer，并对比了Transformer和RNN。

在本篇文章中，简单地介绍了一下循环神经网络，同时介绍了一下它的应用，如语言模型，看图说话等。此外，还介绍了一下LSTM。

本文中，讲解了卷积神经网络的最后一个组成部分，激活函数。此外，还介绍了数据预处理的方法、权重初始化方法、正则化方法和超参数的选择。最终在卷积神经网络中，建议使用ReLU激活函数，初始化方法建议使用Xavier/Kaiming(就是何凯明改进的那个版本)、数据预处理建议使用均值减法、使用Batch Normalization。

在本文中，主要向大家讲解了常见的归一化操作，并通过一些经典的卷积神经网络来学习卷积神经网络是如何进行构建的。此外，简单的介绍了一下迁移学习。

介绍了卷积神经网络的发展史以及它的框架和重要组成部分

在这篇文章中，我们首先介绍了深度学习目前的一些成果(近两年)，之后讲解了神经网络和反向传播。在神经网络的介绍中，讲解了一些常见的激活函数和神经网络的实现。在反向传播中，通过标量和向量分别的介绍了反向传播的计算。在下一讲中，将开始介绍卷积神经网络。

本篇中讲了损失函数的可视化，以及一些优化策略，最后，描述了一下梯度的计算方式以及一些梯度下降的方法。

在这篇文章中，我们简单地介绍了一下图像分类的挑战，以及如何去进行图像分类。在图像分类算法中，介绍了一下最近邻算法、K-最近邻算法、SVM以及Softmax分类器。同时，讲解了一下应该如何去选择参数和什么是损失函数和正则化等。

本系列是斯坦福大学李飞飞教授团队的公开课cs231n课程。