深度学习基础(4)——CNN,RNN,GAN中常用术语及概念汇总

概述

常用术语

通用术语

通道(Channel):通常深度学习模型的输入数据可以有多个通道。比如图像的RGB通道。自然语言数据也可以具有多个通道,例如以不同类型的嵌入的形式。

经验误差(empirical error):也叫训练误差(training error),模型在训练集上的误差。

泛化误差(generalization error):模型在新样本集(测试集)上的误差称为“泛化误差”。

欠拟合:在训练集以及测试集上同时具有较高的误差,此时模型的偏差较大;

过拟合:在训练集上具有较低的误差,在测试集上具有较高的误差,此时模型的方差较大,泛化能力较差。

鲁棒性:可以理解为模型抗风险的能力,也就是对异常数据的处理能力,不会因为某几个异常数据对算法产生巨大影响。

前向传播(foward propagation, FP):作用于每一层的输入,通过逐层计算得到输出结果。

反向传播(backward propagation, BP):作用于网络的输出,通过计算梯度由深到浅更新网络参数。

超参数: 超参数是在模型开始学

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值