Day5 神经网络的数列和递推关系式基础

神经网络的数列和递推关系式基础

引言

神经网络，这一模拟生物神经系统工作方式的计算模型，其核心在于通过一系列的数学运算实现数据的处理和预测。在这些运算中，数列和递推关系式扮演着至关重要的角色。本Day将通过具体的例子和公式，简要介绍神经网络中数列和递推关系式的应用。

数列的基本概念

• 数列:即按一定顺序排列的一组数，其每一项都与前一项或前几项存在某种确定的关系。在神经网络中，这种关系往往通过递推关系式来体现。

例子：
考虑一个简单的等差数列：$1,3,5,7,...$，其中首项$a_1=1$，公差$d=2$。其通项公式为：

• $a_n=a_1+(n-1)d$
  • 在神经网络中，这样的数列可以用于表示输入数据的序列，或者神经单元输出的序列。

---

递推关系式

递推关系式是描述数列中相邻项之间关系的一种数学表达式。在神经网络中，递推关系式不仅用于描述数列的生成过程，还用于描述神经单元之间的连接和计算过程。

例子：
考虑一个简单的神经单元，其加权输入z可以通过以下递推关系式计算：

$z=w_1{x}_1+w_2{x}_2+...+w_n{x}_n+b$

• 其中，$x_1,x$