深度理解机器学习11-反向传播

反向传播

线性回归基本上是一个神经网络，它没有隐藏层，具有身份激活函数（这是一个线性函数，因此是线性的）。损失函数旨在通过梯度下降算法不断更新权重，直到达到全局最小值来最小化误差。

当处理更大、更复杂的非线性神经网络时，计算出的损失通过网络返回每一层，然后再开始权重更新过程。损失向后传播，因此这被称为反向传播。反向传播使用损失函数的偏导数进行。它包括通过在神经网络中反向传播来计算每层中每个节点的损失。了解每个节点的损失，可以让网络了解哪些权重会对输出和损失产生严重的负面影响。因此，梯度下降算法能够降低这些具有高错误率的连接的权重，从而降低该节点对网络输出的影响。

经网络的设计及其应用

在训练和设计神经网络时，通常使用机器学习技术。神经网络可以分为：·有监督神经网络·无监督神经网络

有监督神经网络

有两种类型的有监督学习方法：

·分类分类是针对以离散类别或类作为目标输出的问题。神经网络从样本输入和输出中学习如何正确分类新数据。

·回归回归是针对具有一系列连续数值作为目标输出的问题。神经网络描述输入和输出之间的因果关系

无监督神经网络

·聚类聚类分析是相似输入的组合。这些神经网络可用于基因序列分析和物体识别等。能够进行模式识别的神经网络可以通过有监督或无监督的方法进行训练。它们在文本分类和语音识别中起着关键作用。

神经网络是存在于人脑中的生物神经网络的人工表示。人工神经网络是由深度学习模型结合而成的框架，已经被证明越来越有效和准确。它们被用于多个领域，从训练自动驾驶汽车到检测早期癌细胞。神经网络的不同组成部分，通过损失函数、梯度下降算法和反向传播，学习了网络训练和自我校正。