6、【李宏毅机器学习（2017）】Brief Introduction of Deep Learning（深度学习简介）

原创于 2018-08-28 19:27:22 发布 · 3.6k 阅读

CC 4.0 BY-SA版权

文章标签：

16 篇文章

订阅专栏

此博客在上篇逻辑回归基础上进一步介绍深度学习。它类似机器学习分三步，第一步是全连接前馈网络，训练前需人为设置网络结构；第二步分类时模型选择标准同逻辑回归；第三步用梯度下降找最优模型。随着神经网络层数增加，模型不断优化。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在上一篇博客逻辑回归基础上已经引出了神经网络（深度学习）的概念，在这篇博客中将进一步介绍时下如日中天的话题——深度学习。

历史回顾

这里写图片描述
$\quad$

类似机器学习的三步骤，深度学习同样按照这一逻辑分为三步骤：
这里写图片描述

全连接神经网络是常见的神经网络连接方式，神经元之间全部连接。
这里写图片描述

这里写图片描述

神经网络通常表达为矩阵形式，因为在计算中会将矩阵传递给GPU进行加速计算

$\quad$

举个例子，在训练模型之前应该人为地先设置神经网络结构（几层神经网络、每层多少神经元）。
这里写图片描述

$\quad$

假设用神经网络进行分类，此时模型的选择标准和逻辑回归一样，
这里写图片描述

$\quad$

利用Gradient Descent寻找最优模型，比如Backpropagation可以大大提高计算的效率。
$\quad$

这里写图片描述

随着神经网络层数的提高，模型得到不断的优化。