吴恩达机器学习笔记.Day5

——这事好的

一、正则化方法

如今我们的成本函数变得复杂了起来，添加了正则化项使我们的函数变得简单平滑，那么不妨来看下线性回归的正则化方法。

对于线性回归的正则化来说，是这样的：

而对于逻辑回归来说，是这样的：

二、神经网络

神经网络，又称为人工神经网络，我们学习神经网络，先要看看现实中的大脑与计算机神经网络的联系，虽然今天的深度学习神经网络与大脑的学习方式毫无关系。神经网络的最早动机是试图建立模拟人脑的软件，这项工作早在上世纪五十年代就开始了，后来却一度失宠。

这是我们人脑的神经元，神经元发射电信号并和其他的神经元建立联系（什么高中生物），深度学习里面的神经元与之类似，我们要做的是令我们自己建立的这个机器神经元接受一些信号，加之以计算输出。

三、需求预测

在这个例子里，我们被要求预测一件T恤有多畅销，现在我们手里的参数有种类、价格、以及哪种是最畅销的。在这个例子里，输入特征是t恤的价格。

假使我们使用逻辑回归的函数：

这里的a代表着激活，这一个简单的逻辑回归单元，我们可以看作大脑单个神经元的简化模型，神经元所做的就是让我们输入价格，之后计算得出a的值。了解单个神经元后，想要建立神经网络，就要把多个神经元连接起来。

我们可以将神经元分层，最右侧粉红色的被称之为输出层，用于输出最后的概率。而最左侧的被我们称之为输入层，用于接收我们传入的各种数据。而中间被称为隐藏层，过程中的数据都是隐藏层算出来的。

四、计算机视觉上的应用——图像感知

我们以图像感知的例子来说明神经网络的应用。

在电脑里面，图像以一个个像素的形式存储，图中的照片可以写成一个个的图像亮度像素矩阵，左上角的197代表单位像素的亮度。我们按照行或者列顺着箭头展开，会得到一个亮度向量组。

我们以一百万的像素亮度值作为特征进行输入，最终要得到图片人物的身份。首先我们将图片的数据传入到那啥，输入层。经过了一系列的隐藏层计算，由输出层输出数据（这不废话吗，每一层的隐藏层负责不同的工作，例如：

在第一个隐藏层里我们寻找的是图片的边缘，而在第二层里面我们有方向的线或者是有方向的边，第三层神经元在这个方向上寻找线。经过不断地探寻，找到图片的鼻子、眼睛等特征，检测轮廓的符合程度，便最终可以判断图片中人物的身份。