- 博客(10)
- 收藏
- 关注
RSS订阅原创 为什么选择Stochastic Gradient Descent (SGD)
SGD的作用体现在哪呢？主要为了加速收敛，SGD主要是在每一个样本后都进行参数调节，与所有样本经过网络后再进行参数调节相比，可以加速收敛，SGD公式如下：SGD加速收敛在图像中的体现：可以看出，在所有样本经过神经网络后，再进行参数调节时，调节的步伐确实大一些（相比于经过一个样本就调节而言），但SGD可以在相同的时间进行多次网络调节，这样所走的步伐在一个epoch后肯定更多，更加接近最低点，所以可以加速收敛！...
2021-02-16 18:58:30
508
原创 Feature Scaling 的意义
之前一直不知道feature scaling加速收敛的原因在哪？最近看李宏毅老师的视频，在大概明白了一些，以下就是介绍feature scaling的意义：可以看到，当X1和X2的尺度不同，那么他们对最终损失造成的影响也是不相同的，如左图所示，你可以想象成一个三维的地形，或者一个崎岖的山路，而右图由于输入尺度相同，当然也是个三维的地形，但层次分明。当你想到达最低点时，左图需要根据梯度下降指引下降的方向，可能到达不同点，他所指引的方向并不指向最低点；而相反，右图中，他的梯度下降由于周围地形很相近，所以一直
2021-02-16 18:36:14
612
原创 关于Learing Rate（学习率）、Adagrad（自适应选取学习率）
关于学习率学习率主要用在神经网络的反向传播中，用来调节参数，但学习率的选取很重要，当学习率选取过大时，如下图黄线所示，参数会跳过使损失函数最低的参数，这样有可能使损失变得更大，而选取较小时，网络的训练时间会比较长，迟迟到达不了最低点。所以对于学习率的选取要十分小心。为什么要自适应选取学习率原因主要是：因为我们在训练过程中，我们希望在刚开始的时候，学习率可以大一些，这样可以加速收敛，而越往后，我们希望学习率可以更小一些，因为快接近最低损失点了， 如何学习率还是很大，很容易跳过最低点，所以我们选择自适应
2021-02-16 18:26:00
1999
1
原创 Bias（偏差）、Variance（方差）及过拟合、欠拟合产生原因
关于Bias和VarianceBias关于偏差的介绍我主要参考了李宏毅老师的机器学习视频，（这里强烈推荐李宏毅老师的b站视频，讲的非常好）。这里我们将神经网络类似于寻找一个可以很好拟合训练数据的model的过程，如下图所示，假如有两个model，分别是图像中所列出的两个y，很明显，这两个model的复杂程度不是很一致，左侧的model是个二维的，而右侧的则是个多维的model。这里拟合程度类比成我们选择的model，在输入x后，是否可以很好的拟合训练数据，也就是是否可以很好的打在靶心。在上面两个图
2021-02-16 18:02:43
1563
原创 图像二值化函数cv2.threshold()详解与代码实现
图像二值化函数cv2.threshold()详解与代码实现cv2.threshold()函数介绍最近要使用cv2.theshold()这个函数，但对函数的用法不是很明白，所以上网搜了下用法。首先先理解什么是二值化？图像二值化，就是将图像的像素点经过阈值（threshold）比较重新设置为0或者255，这样就可以将图像呈现出明显的黑和白的视觉效果（灰度值0：黑，灰度值255：白），而且在图像中可能存在噪声，这会对我们的图像识别产生影响，所以我们可以通过二值化从多值的数字图像直接提取目标图像。cv2.
2021-02-03 12:24:55
8576
3
原创 format用法
format：占坑符及数字格式化占坑符数字格式化占坑符数字格式化第二种常用的功能，是格式化数学，比如我们要输出圆周率，但只保留两位小数，可以这么写：保留三位小数即为：完成！
2021-01-31 19:04:50
227
原创 运算符总结
一些运算符的整理%、//%、//这个整理的原因是因为最近写的一个小代码所引发的思考，就是一个逢7就过的小游戏（1-100数字中，凡是有7或者7的倍数的全部去除，而打印其他的剩余的数字）代码：其中两个操作符想记录下：i % 7 ==0：用i除以7，余数为0，这个命题即为真i // 10 ==7: 取整运算符，如71 // 10 ==7,这行语句主要就用来去除71-79这行。...
2021-01-31 18:40:13
123
原创 continue，break语句
记录continue语句和break语句continue语句break语句continue语句continue语句指的是，当满足if语句的条件内容时，跳出当前语句，回到最初，进行下一步循环，如：可以明显看出，当i==7时，跳出了循环，也就是print（i）未执行，直接进行下次循环break语句break语句是指当满足if语句满足的条件时，直接采用break语句，结束当前的过程，也不进行下次循环，如：如上图所示：代码运行的结果只打印出了1-6，即当i==7时，直接break，也不行下次循环。
2021-01-31 18:32:06
131
原创 linux系统命令行
记录下最近用到的linux系统中的一些操作命令行路径路径cd /home/shiyanlou :进入shiyanlou文件夹ls：将文件夹中的内容打印出来cd …:返回上级目录（注意… 前一定要有空格）cd ~:返回桌面（最初的路径）cd - ：后退tree：可以列出一个文件夹中所有的文件夹和文件并以树形结构来进行列出绝对路径和相对路径绝对路径是一个以根目录/为起点的绝对路径，使用pwd命令可以获得当前的目录的绝对路径相对路径是从当前文件的位置去索引你将要用的文件的位置，其写法和绝对路径
2021-01-31 18:21:29
129
原创 使用git命令将本地文件上传到Github中
使用git命令将文件上传到GitHub中git下载及GitHub注册这个网上有很多下载教程，可根据教程一步步实现下载，操作很简单。使用git命令上传本地文件到GitHub中首先将本地文件打包放入一个文件夹，如本文中的data.rar和DPANet-master.zip文件均放在DPAnet文件中。然后在DPAnet文件夹（一定要在DPAnet文件夹中打开Git bash）中右击鼠标打开Git bash，我的显示结果如下图:然后在命令框中输入git clone +URL,此URL为GitHub中
2021-01-31 16:56:18
355
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人