
机器学习笔记
文章平均质量分 88
虽然读研期间做的内容和机器学习相关,但是秋招时发现自己对于机器学习深度学习的理解不够深入,而自己在学习的过程中发现,通过分享讲解知识的方式更有助于自己对于知识的巩固和了解,于是萌生了写专栏的想法。本文尽量采取简单易懂的方式叙述,希望自己的一点拙见能对后来者有帮助
努力学挖掘机的李某某
Thu->DIDI
展开
-
【机器学习】—— 各种梯度下降的变形momentum,adagrad,rmsprop,adam分别解决了什么问题
MomentumMomentum的公式表达设时间步ttt的自变量为xt\boldsymbol{x}_txt,学习率为ηt\eta_tηt。在t0t_0t0时刻,速度变量v0=0\boldsymbol{v}_0=0v0=0,在时间步t>0t>0t>0,Momentum关于速度变量vt=0\boldsymbol{v}_t=0vt=0和自变量xt\bold...原创 2019-06-21 08:04:26 · 725 阅读 · 0 评论 -
【机器学习】——为什么softmax搭配cross entropy是解决分类问题的通用方案?
众所周知,softmax+cross entropy是在线性模型、神经网络等模型中解决分类问题的通用方案,但是为什么选择这种方案呢?它相对于其他方案有什么优势?笔者一直也困惑不解,最近浏览了一些资料,有一些小小心得,希望大家指正~损失函数:交叉熵Cross Entropy我们可以从三个角度来理解cross entropy的物理意义从实例上直观理解我们首先来看Cross Entropy 的公...原创 2019-04-18 22:52:53 · 1097 阅读 · 3 评论 -
【机器学习】——偏差方差,欠拟合过拟合
本系列文章由@ 努力学挖掘机的李某某出品,转载请注明出处。文章链接:http://blog.youkuaiyun.com/qq_30911665 虽然读研期间做的内容和机器学习相关,但是17年秋招时发现自己对于机器学习深度学习的理解不够深入,而自己在学习的过程中发现,通过分享讲解知识的方式更有助于自己对于知识的巩固和了解,于是萌生了写一个教程的想法。本文尽量采取简单易懂的方式叙述,顺便重新学习一下整个知...原创 2018-03-13 11:50:02 · 2580 阅读 · 0 评论 -
【机器学习】——学习率,梯度下降法,批梯度下降,归一化
本系列文章由@ 努力学挖掘机的李某某出品,转载请注明出处。文章链接:http://blog.youkuaiyun.com/qq_30911665 虽然读研期间做的内容和机器学习相关,但是17年秋招时发现自己对于机器学习深度学习的理解不够深入,而自己在学习的过程中发现,通过分享讲解知识的方式更有助于自己对于知识的巩固和了解,于是萌生了写一个教程的想法。本文尽量采取简单易懂的方式叙述,顺便重新学习一下整个知...原创 2018-03-12 19:44:36 · 4153 阅读 · 2 评论 -
【机器学习】—— 什么是机器学习
什么是机器学习(Machine Learning)Machine Learning这个词,我第一次听到感觉就是怪怪的,其实我们可以把它倒过来理解,“LearningMachine” ,好吧,似乎还是怪怪的, 那么我们把Machine换成Algorithm就好理解了,“Learning Algorithm”,没错,就是“学习算法”。机器学习就是具有学习能力的算法。那么接...原创 2018-01-19 18:02:17 · 2483 阅读 · 0 评论