
机器学习
ws_6868
这个作者很懒,什么都没留下…
展开
-
机器学习中的一些基础概念
首先,结合手写数字分类来说说什么是训练集(traning set),目标向量(target vector),训练(traning),学习(learning),测试集(test set),泛化(generalization),预处理(pre-processed),特征抽取(feature extraction)。例:现在有个手写数字识别的例子,如下图所示。每个数字对应一个28*28像素的图片,在...原创 2019-01-04 19:21:25 · 763 阅读 · 1 评论 -
链式求导法则
本文只总结了多元复合函数的链式求导法则(一元的更简单就不写了)直接结合一个例子结合复合结构图来说这个问题Z = F(U,V,W) U = U(y)V = V(x,y)W = W(x)下面是它的复合结构图有了复合结构图就很容易看出 Z 由 U、V、W 决定,U由y决定,V由x, y决定,W由x决定。例如求Z对x的偏导 有句经典的话就是 求导就是走路,有几条...原创 2019-01-26 13:13:54 · 11436 阅读 · 0 评论 -
Gradient Descent(梯度下降法)
默认你已经了解了导数,偏导,梯度和方向导数的概念直观理解 比如我们在一座大山上的某处位置,这时候突然阴云密布,我们想要快速的下山,但是我们不知道怎么下山,于是决定走一步算一步,可是怎么走一步算一步呢?有种方法是这样我们先环顾下四周(360度)看一下哪里山坡最陡,然后向最陡峭的地方走一步,一致重复这个过程,按照这个方法一直到走到最低点(这个最低点事局部最优,因为按照这种方法我们是...原创 2019-01-31 14:08:13 · 449 阅读 · 0 评论 -
为什么梯度反方向是函数值局部下降最快的方向(方向导数与梯度)
(本文转自于知乎https://zhuanlan.zhihu.com/p/24913912)导数导数的几何意义可能很多人都比较熟悉: 当函数定义域和取值都在实数域中的时候,导数可以表示函数曲线上的切线斜率。 除了切线的斜率,导数还表示函数在该点的变化率。几何意义直白的来说,导数代表了在自变量变化趋于无穷小的时候,函数值的变化与自变量变化的比值代表了导数,几何意义有该点的切线...转载 2019-01-27 13:26:56 · 1148 阅读 · 1 评论