- 博客(2)
- 收藏
- 关注
原创 当使用Sigmoid或者Softmax作为激活函数时,损失函数推荐使用交叉熵损失函数而不是均方差损失函数
Sigmoid函数形式Sigmoid(x)=11+e−xSigmoid(x)=\frac{1}{1+e^{-x}}Sigmoid(x)=1+e−x1函数图像导数形式Sigmoid′(x)=e−x(1+e−x)2=Sigmoid(x)(1−Sigmoid(x))Sigmoid'(x)=\frac{e^{-x}}{(1+e^{-x})^2}=Sigmoid(x)(1-Sigmoid(x)...
2020-03-31 18:08:30
2584
原创 python基于梯度下降法实现感知机算法
python基于梯度下降法实现感知机算法感知机简介基于梯度下降法实现感知机随机梯度下降法批量梯度下降法下面是测试代码感知机简介感知机在线性函数上套了一个激活函数(阶跃函数),使之成为一个二分类判别模型。当然激活函数不只有这一种,如果激活函数为sigmoid函数,那么得到的模型就变成了逻辑回归模型LR。本文将使用python实现感知机算法,基于随机梯度下降和批量梯度下降。基于梯度下降法实现感...
2020-03-25 00:50:44
1582
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人