4、机器学习与神经网络入门

机器学习与神经网络入门

一、多层感知机与神经网络基础

1.1 多层感知机结构

多层感知机由多个相互连接的感知机组成，这些感知机按不同的顺序层组织，包括输入层、一个或多个隐藏层和输出层。每层的每个单元都与下一层的所有单元相连。信息首先被输入到输入层，然后用于计算第一个隐藏层每个单元的输出（或激活）$y_i$ 。接着，输出作为下一层的输入向前传播（即前馈），直到到达输出层。训练神经网络最常见的方法是将梯度下降与反向传播相结合。

1.2 隐藏层与输出层的作用

隐藏层可以看作是输入数据的抽象表示，神经网络通过其内部逻辑来理解数据的特征。然而，神经网络是非可解释模型，即使观察隐藏层的 $y_i$ 激活值，我们也无法理解它们，它们只是一组数值向量。输出层的作用是弥合网络表示与我们感兴趣的实际数据之间的差距，就像一个翻译器，帮助我们理解网络的逻辑，并将其转换为我们感兴趣的实际目标值。

1.3 通用逼近定理

通用逼近定理表明，具有一个隐藏层的前馈网络可以表示任何函数。虽然理论上具有一个隐藏层的网络没有限制，但在实践中，这种架构的成功是有限的。

二、使用 PyTorch 构建简单神经网络进行鸢尾花数据集分类

2.1 引入 PyTorch

PyTorch 是一个由 Facebook 开发的开源 Python 深度学习框架，最近越来越受欢迎。它提供了图形处理单元（GPU）加速的多维数组（或张量）操作和计算图，可用于构建神经网络。

2.2 构建简单神经网络的步骤

2.2.1 加载数据集