weixin_44766038的博客

原创 常用激活函数Sigmoid & Softmax & ReLU& Tanh的整理总结

激活函数使用原因：1、如果不用激励函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合。2、如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。比如，在单层感知机中，分类的结果大于某个值为一类，小于某个值为一类，这样的话就会使得输出结果在这个点发生阶跃，logistic函数（sig...

原创 深度学习tensorflow:优化器

从结果可以看出：使用Adam优化器效果明显好于单纯用梯度下降法优化器

原创 深度学习tensorflow:正则化

![在这里插入图片描述](https://img-blog.csdnimg.cn/20190928111808703.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc2NjAzOA==,size_16,color...

原创 深度学习tensorflow:Dropout

关键点在于参数keep_prob，设置可工作的神经元比例。Dropout的作用主要是防止过拟合，但是它的准确率有时会比不使用Dropout低，需要根据具体的情况来决定是否使用根据结果，对比Test和Train的准确率可以看出，两者之间相差很小，说明泛化性比较强，防止过拟合做的很好。...

原创 深度学习tensorflow:交叉熵

由上图看出，梯度的的大小跟(y-t)即是误差大小成正比，误差越大，梯度越大。

原创 深度学习tensorflow:MNIST数据集分类简单版本

原创 深度学习tensorflow:非线性回归

原创 深度学习tensorflow:线性回归

原创 吴恩达机器学习编程作业6：支持向量机

原创 吴恩达机器学习编程作业5：偏差和方差

上面这段代码的需要注意的是map映射的应用，代码非常简洁。这里的x.reshape(x.shape[0],1)是调整x的形状为一列，这种编码方式也非常优雅。记得插入一列1。梯度公式，上面那段代码是此公式的实现。以下为代价函数：注意对比上下两端代码中as_ndarry值的变化带来的结果的变化zhuyi以上代码要留意参数 l 的变化。...

原创 吴恩达机器学习编程作业4：神经网络

原创 吴恩达机器学习编程作业3：多类分类

另外一种方法：

原创 吴恩达机器学习编程作业2：logistic_regression（逻辑回归）

Markdown 0 字数 2 行数 当前行 2, 当前列 0HTML 0 字数 0 段落

原创 吴恩达机器学习编程作业1：Python实现线性回归

吴恩达机器学习作业：线性回归1.单变量线性回归2.batch gradient decent（批量梯度下降）1.单变量线性回归导入需要使用的包import numpy as npimport pandas as pdimport matplotlib.pyplot as plt导入数据集。提醒大家：一定要把数据文件ex1data1.txt放在和程序同一个文件夹里，否则需要使用绝对路径...