【深度学习】GoogLeNet系列解读 —— Inception v3

Inception v3采用RMSProp优化算法,使用Label Smoothing Regularization (LSR)减少过拟合,将7x7卷积层拆分为3x3,同时辅助分类器的全连接层引入batch-normalization。LSR通过加入噪声到标签,防止模型过于集中于高频类别,起到正则化作用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


目录

GoogLeNet系列解读

Inception v1

Inception v2

Inception v3

Inception v4


Inception v3

Inception v3整体上采用了Inception v2的网络结构,并在优化算法、正则化等方面做了改进,总结如下:

1. 优化算法使用RMSProp替代SGD。

2. 使用Label Smoothing Regularization(LSR)方法。LSR是一种通过在输出y中加噪声,实现对模型进行约束,降低模型过拟合的方法。进行模型训练时,通常真是标签q(k/x)采用one-hot的形式,而模型的输出一般为softmax归一后的概率分布p(k/x),

p(k/x)=\frac{exp(z_k)}{\sum_i^{i=K}exp(z_i))}

损失函数为,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值