- 博客(6)
- 收藏
- 关注
RSS订阅
6原创 深度学习与反向传播
1.深度学习（1）学习的三个步骤：Step1：神经网络（Neural network） Step2：模型评估（Goodness of function） Step3：选择最优函数（Pick best function）（2）神经网络组成：输入层（1层）+隐藏层（N层）+输出层（1层）从输入层到输出层的中间过程可做如下理解：计算方法就是：sigmoid（权重w【黄色】 * 输入【蓝色】+ 偏移量b【绿色】）= 输出其中，σ为激活函数。问题：隐藏层有多少层？
2022-01-16 23:02:34
495
原创 Regression---梯度下降算法
（1）定义：梯度下降法的计算过程就是沿梯度下降的方向求解极小值（也可以沿梯度上升方向求解极大值）。批量梯度下降算法公式如下：（其中 α代表学习率）（2）学习率的理解：可以把梯度下降的过程看作是寻找下山的过程，目的是为了找到最低点，而α代表迈的步子的大小，如果α过大，则有可能会导致直接跨过最低点；如果α过小，则会导致下山的速度过慢。如下图所示：（3）自适应学习率：为了使学习率变得合适，随着次数的增加，通过一些因子来减少学习率 通常刚开始，初始点会距离最低点比较远，所以使用大一点的
2022-01-14 23:35:15
492
原创 偏差的相关知识点
真实的模型为f^,理想模型为f*.（1）对于同一model，在不同的训练集中找到的 f*是不一样的。如下图所示：（2）考虑不同模型的方差一次模型的方差就比较小的，也就是是比较集中，离散程度较小。而5次模型的方差就比较大，同理散布比较广，离散程度较大。所以用比较简单的模型，方差是比较小的（就像射击的时候每次的时候，每次射击的设置都集中在一个比较小的区域内）。如果用了复杂的模型，方差就很大，散布比较开。这也是因为简单的模型受到不同训练集的影响是比较小的。（3）欠拟合与过拟合的判断
2022-01-14 23:01:33
700
原创 回归模型的部分相关内容
1.回归模型步骤step1：模型假设，选择模型框架（线性模型） step2：模型评估，如何判断众多模型的好坏（损失函数） step3：模型优化，如何筛选最优的模型（梯度下降）2.回归函数（1）利用损失函数来评估模型的好坏，利用梯度下降算法来选出最佳模型（即求解使得损失函数最小时其对应的w与b的值）（2）是不是能画出直线就是线性模型，各种复杂的曲线就是非线性模型？ 其实还是线性模型，因为把 x_{cp}^1xcp1 = (x_{cp})^2(xcp)2 看作一个特征，那么 y = b
2022-01-13 00:08:00
247
原创 深度学习入门
1.深度学习：深度学习是机器学习的一种方法，是让机器有自己学习的能力。2.机器学习的三个步骤：（1）找到一个函数function （2）让机器以衡量一个function是好还是不好（3）让machine有一个自动的方法，有一个好演算法可以挑出最好的function。3.监督学习---->半监督学习--->迁移学习--->无监督学习...
2022-01-10 22:22:01
310
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人