思则变的专栏

根据需求建立模型，从前面神经网络的结果可以知道，每一层都有若干个模型在运行，因此建立神经网络就需要先根据需求确定计算模型,也就是得到 逻辑回归模型公式为： 上面三层的神经网络的代码实现为： 例如线性回归的 二分法逻辑回归的损失函数为： 代码实现为：三、寻找最小损失函数的(w,b)组合梯度下降法： 代码实现为：循环100次可以看到在建立模型的过程中，代码中使用了activation激活函数。如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的

这里我们将探索神经元/单元和层的内部工作原理。特别是,与之前学习的进行比较。最后接介绍tensorflow以及如何利用tensorflow来实现这些模型。神经网络和大脑的神经元工作原理类似，但是比大脑的工作原理要简单的多。大脑中神经元的工作原理如下图：inputs表示上一个神经元传递过来的信号，然后经过当前神经元的处理，当前神经元将处理后的信号传递给下一个神经元，这样基本的信号传递就完成了。

线性回归模型和逻辑回归模型都存在欠拟合和过拟合的情况。

之前文章中提到监督学习的应用可分为两类：线性回归和逻辑回归。和线性回归不同，逻辑回归输出只有0和1。对于一个逻辑回归任务，可以先使用线性回归。然而我们希望逻辑回归预测模型输出的是0和1，为了达到这个目的，我们使用sigmoid()来把线性回归预测的输出y映射到0和1之间。公式中的z表示的是线性回归模型中输出的结果y。m个training data的情况下，y是一个含m个value的向量。用图形表示sigmod的输出样子是:可以看到输出区间始终在0到1之间，输入z越大，越趋近于1，反之趋近于0。

这种方法可以不多次迭代梯度下降函数就能得到w,b。但是缺点是在大量数据训练情况下效率较低，其次是这种算法仅仅在线性回归中实现了，并没有在其他模型中实现，因此，实际情况下的使用率不高。这里了解有这么个概念即可。

之前部分实现的梯度下降线性预测模型中的training example只有一个特征属性：房屋面积，这显然是不符合实际情况的，这里增加特征属性的数量再实现一次梯度下降线性预测模型。(w,b) ——损失函数或者代价函数（2）损失函数值最小的时候，模型最接近实际情况：通过梯度下降法来寻找最优w,b组合。

很久不接触数学了，machine learning需要用到一些数学知识，这里在重温一下相关的数学基础知识。

实现一个简单的监督学习的模型：预测part1 中提到的买房模型。模型中有一个输入参数：房子面积 (单位：1000平方)x；一个输出结果：房子价格:y(单位：千美元)x_train中保存的是房子面积的集合，y_train中保存的是对应面积房子的价格。

例如，对房价的判断，训练样本为过去2年不同面积的房子的价格，输入x为面积，输出y为房子价格。与应用1 数据回归预测有多种不同的输出不同，分类的输出只有两种：是 or 不是。与监督学习不同的是，无监督学习不需要指定y作为正确的label来训练模型，模型可以自己根据样本集的特征将样本集中的数据划分为不同的类群。下图中可以看出左边的监督学习是把数据分为正确的和错误的，而右边仅仅是把相似的数据放在一起，形成了两个不同的数据集。选项4：将病人分为两类：有糖尿病和无糖尿病的，因此是监督学习，属于监督学习中的分类应用。