AI神经元的底层算法--三张图小白看了也懂

end

在神经网络的净输入公式中，如果你看到了类似于 “E” 的符号，这通常表示求和（Summation）。这个符号是用来表示将所有加权输入信号相加的过程。具体来说，净输入 ���net 的公式中的求和符号可以写作：

神经元作为神经网络的基本单元，其底层算法是对生物神经元的简化与模拟。下面是神经元的基本算法原理：

1. 结构模拟：

   • 树突（Dendrites）：在人工神经网络中，相当于输入部分，接收来自其他神经元的信号。
   • 细胞体（Soma）：在人工神经网络中，对应于处理单元，负责整合输入信号。
   • 轴突（Axon）：在人工神经网络中，相当于输出部分，将处理后的信号传递给其他神经元。

2. 工作原理：

   • 信号接收：神经元接收来自其他神经元的信号，这些信号在树突上被累加。
   • 权重分配：每个输入信号都有一个权重（Weight），表示该信号相对于神经元的重要性。权重可以是正数也可以是负数，正权重表示兴奋性效应，负权重表示抑制性效应。
   • 激活函数：细胞体对加权后的输入信号进行求和，并通过一个非线性函数（激活函数）处理，以决定是否产生输出信号。常见的激活函数有阶跃函数、Sigmoid函数、ReLU函数等。

3. 数学模型：

   • 输入：�1,�2,...,��x1​,x2​,...,xn​ 是输入信号。
   • 权重：�1,�2,...,��w1​,w2​,...,wn​ 是与输入信号对应的权重。
   • 偏置：�b 是偏置项，可以看作是固定输入1的权重。
   • 净输入（Net Input）：���=∑�=1�����+�net=∑i=1n​wi​xi​+b。
   • 激活函数：�(⋅)f(⋅) 是激活函数。
   • 输出：�=�(���)y=f(net)。

4. 学习算法：

   • 前向传播：信号从输入层流向输出层，每一层的输出都作为下一层的输入。
   • 反向传播：通过计算输出层的误差，然后将误差信号沿着网络反向传递，以此来调整权重和偏置，减小输出误差。

这种算法模型可以用于分类、回归、聚类等多种机器学习任务。在训练过程中，通过迭代优化权重和偏置，使得神经网络的输出更接近于目标值，从而实现数据的非线性映射和处理。

���=∑�=1�����+�net=i=1∑n​wi​xi​+b

或者有时候也会用大写的 “E” 来表示求和：

���=∑�=1�����+�net=i=1∑n​wi​xi​+b

这里的 “Σ”（希腊字母Sigma）是数学中的求和符号，表示将所有 ����wi​xi​ 的乘积从 �=1i=1 到 �=�i=n 进行累加，其中 �n 是输入信号的数量。每一项 ����wi​xi​ 是第 �i 个输入信号 ��xi​ 与其对应的权重 ��wi​ 的乘积。

所以，当你看到类似 “E” 的符号时，它实际上是指 “求和” 的操作，而不是代表数学中的自然对数的底数 “e” 或者其他含义。这个求和符号是神经网络计算净输入的关键部分，因为它将所有输入信号的影响综合起来，再加上偏置 �b，得到一个单一的值，这个值随后会被激活函数处理以产生神经元的输出。

净输入（Net Input），在神经网络中，指的是单个神经元在经过权重调整和偏置处理后，传递到激活函数之前的总和。它是神经元处理信息过程中的一个中间步骤，用于决定神经元是否应该被激活并向其他神经元发送信号。

具体来说，净输入的计算过程如下：

1. 权重乘以输入：每个输入信号 ��xi​ 都会乘以一个对应的权重 ��wi​。权重表示输入信号的重要性或影响力。

2. 求和：将所有加权后的输入信号加在一起，得到总和。

3. 加上偏置：在总和的基础上加上一个偏置项 �b。偏置可以被视为一个恒定的输入信号，其权重固定为1。

数学上，净输入 ���net 可以表示为：

���=∑�=1�����+�net=i=1∑n​wi​xi​+b

其中：

• �n 是输入信号的数量。
• ��xi​ 是第 �i 个输入信号。
• ��wi​ 是与第 �i 个输入信号对应的权重。
• �b 是偏置项。

净输入是神经元的一个非常重要的概念，因为它直接关系到神经元是否会被激活。一旦计算出了净输入，它就会被传递给激活函数 �(⋅)f(⋅)，激活函数会根据净输入的值决定神经元的输出 �y：

�=�(���)y=f(net)

激活函数通常是非线性函数，它引入了非线性因素，使得神经网络能够学习和模拟复杂的数据关系。例如，如果使用Sigmoid激活函数，当净输入 ���net 很大时，神经元的输出 �y 接近于1；当净输入 ���net 很小（尤其是负值很大）时，神经元的输出 �y 接近于0。