1.C语言
2.深度学习
1. 二元分类——logistic回归
1.回归函数
预测值为下式所示
X,W均为n*1的数组
可知取值在01之间。
2.损失函数
为了知道a的准确型,定义一个损失函数
有m个样本对其加权求平均得
3梯度下降法
为了使误差最小,即J(w,b)最小引入梯度下降法。
如图,我们去寻找他的最小值。具体方法便是先以一个初始点找到其最陡的一个方向进行迭代,多次后便能接近min。如下图以一维为例。
对w进行多次求导迭代
最终获得最小值。其中涉及一些微积分的知识
那么,对于上文所说的损失函数,我们便可以对其分析
对z求导dz=a—y;继续链式求导得
然而·这只是1个样本,接下来假设有m个样本,以w1为例便可实现梯度下降法
用for循环编写
向量化logistic回归
for循环所需时间常常太久,为了节省时间,引入向量法下图是简单的对比for循环以及向量法的时间
所用函数如下
所以,我们将W,X均变为n维列向量
反向传输梯度输出
向量法代码如下右
代码对比for循环