这是一份爆火的深度学习教程! （附学习文档）

深度学习入门比机器学习更难，这是因为深度学习里面有各种神经网络模块，先要学习pytorch或者tensorflow框架，刚开始上手确实挺难的

斯坦福CS231n-2017是比较爆火的深度学习教程，内容讲解比较全面和容易上手，非常适合新手小白

下面具体来介绍一下这个深度学习教程的summary：

文章中所有的数据和资料，可添加小助手无偿分享~
扫码添加小助手即可无偿获取~

也可以关注“AI技术星球”公众号，关注后回复“221C”获取。

1. CNN for vision recognization

这一部分主要是介绍CNN在计算机视觉的应用，计算机视觉问题包括图像分类、物体定位、物体检测和场景理解。Imagenet是目前可用的图像分类领域最大的数据集之一。自2012年Imagenet竞赛开始，卷积神经网络（CNN）始终领先

2. 图像分类

图像分类问题面临诸如照明和视角等诸多挑战，图像分类算法可以用K个最近邻（KNN）求解，但解决效果较差。线性SVM分类器是解决图像分类问题的一个选项，但维度的诅咒使其在某个阶段停止了改进。逻辑回归也是图像分类问题的一个解，但图像分类问题是非线性的！

3. 损失函数与优化

前面介绍的模型，比如CNN,KNN等，模型参数在训练过程中如何更新与损失函数有关系，损失函数是用于衡量预测值和真实值之间的距离，然后用于参数的更新，相应的优化策略包括正则化，比如L1和L2正则化等

4-9. CNN相关

首先介绍神经网络模型，其次介绍卷积神经网络，卷积神经网络包括卷积层，池化层和全连接层，以及训练神经网络模型的一些技巧，比如激活函数如何选择，数据预处理，批次归一化和layer normalization等

10. RNN

CNN是图像领域的特征提取器，而RNN则是时间序列里面的特征提取器，能够考虑不同位置上的token之间的关联性，RNN的后续改进模型LSTM和GRU模型至今仍广泛使用

11-13. 生成模型

像之前的模型KNN，逻辑回归等都是判别式模型，而现在比较火的GPT等大模型则是生成式模型，生成模型已经带来的新的变革，transformer, bert等都是生成式模型的基础

14. 深度强化学习

强化学习也是一个比较火热的方向，通过在试错中优化学习策略，从而获得最佳的推荐策略。现在强化学习也应用于大模型的微调过程，PPO, DPO等都是常见的强化学习算法

15-16. 对抗样本和对抗性训练

对抗样本（Adversarial Examples）和对抗训练（Adversarial Training）是深度学习安全与鲁棒性研究中的核心概念，近年来在学术界和工业界都受到广泛关注。对抗样本是指对原始输入施加人类难以察觉的微小扰动后，导致机器学习模型（尤其是深度神经网络）做出错误预测的样本。对抗训练是一种提升模型鲁棒性（robustness）的方法，其核心思想是：在训练过程中，将对抗样本加入训练集，让模型学会正确分类它们

上面的内容覆盖了图像分类和识别，CNN, RNN,强化学习，对抗训练等，内容比较广泛，有助于打下比较好的基础，但英文的summary确实对于部分同学来说是存在一定难度的

 

 文章中所有的数据和资料，可添加小助手无偿分享~
扫码添加小助手即可无偿获取~

也可以关注“AI技术星球”公众号，关注后回复“221C”获取。