Amigo_1997的博客

梯度的方向总是函数值越来越大的方向，如果是求极大值，沿着梯度的方向迭代接口；如果是求极小值，沿着梯度相反的方向迭代即可，即梯度下降法。梯度下降法（梯度上升法应该也适用）迭代结束的条件，常用的有两种：一、定义一个合理的阈值，当两次迭代之间的差值小于该阈值时，迭代结束。二、设置一个大概的迭代步数，比如1000或500，梯度下降法最终的迭代肯定会收敛，只要达到相应迭代次数，多了也没关系。因为...

 来源：优快云 原文：https://blog.youkuaiyun.com/chenlin41204050/article/details/78220280--------------------- 作者：木兄 来源：优快云 原文：https://blog.youkuaiyun.com/chenlin41204050/article/details/78220280 版权声明：本文为博主原创文章...

1.MATLAB对于@句柄函数的利用。 2. 神经网络的代价函数需要自我填写部分

Gradient Checking反向传播算法很难调试得到正确结果，尤其是当实现程序存在很多难于发现的bug 时。举例来说，索引的缺位错误（off-by-one error）会导致只有部分层的权重得到训练（for(i=1; i<=m; ++i) 被漏写为 for(i=1; i<m; ++i)），再比如忘记计算偏置项。这些错误会使你得到一个看似十分合理的结果（但实际上比正确代码的结果...

feature scaling(特征缩放).: make sure multiple features are on a similar scale. Because different features take on similar ranges of values can help gradient descent converge more quickly.公式基础：代码演示：...

来着吴恩达老师、 李政轩老师（核函数）和黄海广博士笔记李政轩老师视频地址：http://www.powercam.cc/slide/6552李老师的台湾话有点意思，而且有时候边讲课边笑，有点搞笑滴。Support vector machine(SVM) algorithm.支持向量机算法简称向量机       这个SVM的公式对逻辑回归的算法进行了变形，支持向量机是直接预测...

     重要声明：以下内容主要参考吴恩达机器学习课程和张洋的PCA数学原理文章      降维（dimensionality reduction）降维的目的：（1）数据压缩（2）可视化数据。       PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用...