- 博客(4)
- 收藏
- 关注
原创 深度学习入门:基于Python的理论与实现4神经网络的学习
梯度法:寻找函数最小值,此时(损失)函数最小时,取得最优参数(权重与偏置) ,即神经网络最优化。正确标签的输出越大,交叉熵误差越接近0,当输出为1时,交叉熵误差为0。one-hot表示:正确解标签为1,其他为0。损失函数:一般使用均方误差、交叉熵误差。梯度指示的方向是函数值减少最多的的方向。超参数:学习率η等参数,需要人工设定。数值微分:导数,偏导,梯度(向量)mini-batch:交叉熵误差。训练数据(监督数据)/测试数据。所有训练数据损失函数总和。可以为ω、b,用于参数更新。表示监督数据,k为维数。.
2022-08-11 08:57:57
126
原创 深度学习入门:基于Python的理论与实现3神经网络
输出激活函数定为softmax函数,利用激活函数h()将a转换为输出y=h(a)simoid函数。隐藏层激活函数h(),输出层激活函数σ()实际权重层数=输入层+中间层+输出层-1……,计算加权信号与偏置的总和a=Σ(w。i为[1,n],n是输出层神经元个数,ReLU函数:(学习率需要设计较小)输入层、中间层(隐藏层)、输出层。激活函数:通过感知机接收信号x。输出层激活函数定为恒等函数。......
2022-08-08 17:59:47
120
原创 深度学习入门:基于Python的理论与实现2感知机PLA
感知机:接收多个输入信号。权重(w)、偏置(b):前者控制输入信号,后者调整神经元被激活的容易程度,超过|b|则被激活。单层感知机、多层感知机:前者无法分离非线性空间与异或门。......
2022-08-07 12:54:48
317
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人