神经网络抽象机的需求与实现
1. 神经元计算基础
神经元的计算需要所有输入数据准备就绪,即神经单元拥有所需的全部输入时,才能进行内部计算。为实现这一计算,需要以下几个关键函数:
- compute forwN : INPUT → STATE
:计算神经元的内部状态(例如净输入值)。
- output functionN : STATE → OUTPUT
:从内部状态计算输出值。
这里的 STATE
和 OUTPUT
域在后续细化中可以不做具体规定,但为了便于表述,假设 STATE ≡ OUTPUT ≡ IR
。在前馈网络中,状态并非严格必要,但它有助于存储反向传播阶段所需的信息。
另外,还需要两个函数来访问神经元的 STATE
和 OUTPUT
值:
- state forwN : NEURONS → STATE
- out forwN : NEURONS → OUTPUT
它们可以按以下方式实例化:
state forwN(ni) ← compute forwN(in forwN(ni))
out forwN(ni) ← output functionN(state forwN(ni))
需要注意的是, comput