本文介绍了AlexNet，一种使用GPU对大规模数据集进行训练的卷积神经网络模型，重点讲解了ReLU激活函数的优势以及其在保持梯度可训练性上的作用。同时讨论了暂退法Dropout在控制模型复杂度和改善LeNet方法上的效果，以及数据增强技术在减少过拟合中的应用。
Alexnet：使用卷积神经网络实现利用GPU对大规模的数据集进行训练，并且提取出多层特征的一种模型
激活函数：RELU
特点：
- 相较于sigmoid函数，计算简单
- 对不同类型的参数初始化，可以将梯度保持在可以训练的状态，使模型有一个好的训练效果
暂退法Dropout：控制全连接层的模型复杂度，效果优于权重衰减（Lenet使用的方法）
扩充数据集：对图像进行数据增强，裁剪、翻转、变色，更大的样本量从而减少过拟合
【深度学习记录】Alexnet
扫一扫
评论 1
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
