一、生物神经元
动物的大脑中都含有许多的被称为神经元的脑细胞。人类的大脑更是包含800多亿个神经元,由这些神经元组成的神经网络非常复杂。下图为两个神经元的简单示意图。
一个神经元由细胞体,树突,轴突和突触等组成。每个神经元与其他神经元相互连接。其中,一个神经元的树突与其它神经元的突触连接,轴突可以向其它神经元发送信号,树突接收到信号后传到细胞核中进行处理,然后再通过轴突把处理后的信号发给其它神经元。
一个神经元通常具有多个树突,主要用来接收其它神经元传入的信息。轴突只有一条,轴突尾端有多个轴突末梢,这个末梢和其它神经元的树突连接,可以给其它多个神经元传递信息。
二、人工神经元
人工神经元则是模仿生物神经元的结构,建立起来的数学模型。如下图所示:
该人工神经元包含多个输入A_1, A_2...A_n(模仿多个树突),一个计算功能(模仿细胞核),以及一个输出(模仿一个轴突)。其中,w_n表示每个输入的权值,可以类比为输入信号的强弱。
用F()表示非线性函数,Y表示输出,则上述神经元模型可用数学公式表示为:
其中,b表示一个偏置项,它的作用是使得神经元在输入信号为0时仍然能被激活,从而改善模型的表达能力。如果没有偏置项,神经元只能通过权重来调整输入信号的影响,可能导致模型对输入数据的拟合能力受限。 总结起来,偏置项在神经网络中的作用是提供一个可调节的阈值,使得模型能够更好地适应输入数据。 没有偏置项可能会限制模型的表达能力。
三、人工神经网络
人工神经网络也是模仿生物神经网络的结构,建立起来的数学模型。一个简单的模型示例如下图:
每个蓝色的圆都是一个人工神经元,需要训练的参数是所有权重(wn)。
参考来源:
深度学习(三)—— 神经元与神经网络_神经网络神经元-优快云博客