序言
这个系列我想了很久,还是做出来跟大家一起学习分享。因为深度学习看着吓人,其实本质上就是有很多隐层的神经网络。深度学习是现代科技业最热门的技能之一,本栏目将帮你学习并且掌握深度学习。
你将可以学习到深度学习的基础,学会构建神经网络,并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。
也就是说,我所写的这些内容都是基于吴恩达老师的深度学习课程的学习要点的知识详解。视频还是要去b站观看吴恩达老师的深度学习课程的。
在我的文章里对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有详细的讲解。
话不多说,即刻开始,我将不像视频中那样详细推导。更多的是在理清整条脉络的同时进行点对点的突破。希望能帮到您。为了避免阅读疲劳,本栏目照样是一千字一篇。
总体目标
第一门课程中,你将学习如何建立神经网络(包含一个深度神经网络),以及如何在数据上面训练他们。然后会有吴恩达老师的作业测评,就是尝试用深度神经网络去识别一个猫。
接下来在第二门课中,你将进行深度学习方面的实践,学习严密地构建神经网络,如何真正让它表现良好,因此你将要学习超参数调整、正则化、诊断偏差和方差以及一些高级优化算法,比如 Momentum 和 Adam 算法,犹如黑魔法一样根据你建立网络的方式。
在第三门课中,我们将来学习如何结构化你的机器学习工程。
在第四门课程中,我们将会提到卷积神经网络(CNN(s)),它经常被用于图像领域,你将会在第四门课程中学到如何搭建这样的模型。
最后在第五门课中,你将会学习到序列模型,以及如何将它们应用于自然语言处理,以及其它问题。
由于文章篇幅的限制,我不会一个小节便是一篇文章,但是我会在目录中标注这是第几门课第几节。
1.2 什么是神经网络?
我们知道深度学习是指训练神经网络的过程。但是有时它指的是特别大规模的神经网络训练。
这里就举了一个例子。我们想探讨房子大小和房价的关系。那么我们就要有一个计算的公式,但是在这之前,我们得知道这个公式是怎么形成的,也就是拟合函数。如果是直线,那就是一个一次函数。那就会出现下面这张图。
这就是高中学的线性回归,也就是经验回归,通过我的样本数去看,什么因素大概影响我的房价,最终确定下来这个值,那就形成了一个固定的函数了。图中我们也看到了,房价不可能为零,也就是说我们需要的是上面这条斜线,我们把直线弯曲一点,让它最终在零结束。这就是ReLU 激活函数。就是从0开始然后变成一条直线。也叫修正线性单元。
而右边就是一个小的神经元网络,我们把房屋的面积作为神经网络的输入(我们称之为x),通过一个节点(一个小圆圈),最终输出了价格y表示)。
但是单一元素肯定不能衡量房价这些多要素影响的东西,如果我们加上图里的这些东西呢,就可以大致接近房价了。而中间这些小圆圈就是隐藏的单元。也就是说,你只能看到x和y,中间这些只是运行的过程。
就好像我们一直所说的y=kx+b,输入x就为了知道y,而k和b,通常是我们要求的。这两个参数是需要不断去经验回归拟合的。直到达到一个近似值。这就是我们学习深度学习的一个逻辑。可以说只要给出足够的样本,k和b就更精确,神经网络就会更能计算从x到y的精确的映射函数。
所以看到这,你就该有这这样的思路去学习一个个知识点。
感谢您的阅读。