PiPi_Ying的博客

从数学上看，神经网络是一种用于数据分析的模型，这个模型是由权重和偏置确定的。像权重和偏置这种确定数学模型的常数称为模型的参数。除了参数以外，数据分析的模型还需要值根据数据而变化的变量，但是参数和变量都用拉丁字母或希腊字母标记，这会引起混乱。而区分用于代入数据值的变量和用于确定模型的参数，对于逻辑的理解是不可或缺的。

回归分析是一种预测性的建模技术，主要用于研究因变量（目标）和一个或多个自变量（预测器）之间的关系，其目的是通过建立模型来预测因变量的值。

详见本Day文章顶部附带资源里里的Excel表《梯度下降法》，可以对照附表里的单元格公式进行理解，可以多尝试几次不同的学习率η来感受下一，只需要更改学习率η单元格数值，按回车键后即可观察函数值变化。

梯度下降法(Gradient Descent)是一种广泛应用于机器学习和深度学习中的优化算法，主要用于求解最小化目标函数的问题。本Day在回顾前期基础上，形象具象抽象的讲解了梯度下降算法。

解释多变量函数的近似公式，为理解梯度下降法打下基础

在神经网络的训练过程中，误差反向传播法是一种非常重要的算法。它通过计算损失函数对每个参数的梯度，从而更新参数以最小化损失函数。而在这个过程中，链式法则起到了至关重要的作用。本Day将深入探讨神经网络和复合函数的关系、单变量与多变量函数的链式法则。

分享解释学习神经网络需要的偏导数基础

神经网络中的导数基础

神经网络的矩阵基础

总结学习神经网络需要掌握的向量基础知识

深度学习神经网络中常用到的数列和递推关系式基础。附常见的符号解释

深度学习神经网络需要掌握的函数基础

Day2中概述了神经网络的各层（输入层、隐藏层、输出层），但没有具体介绍其中最难的。这是因为隐藏层肩负着**特征提取（feature extraction）**的重要职责，需要很长的篇幅来介绍。Day3中以“恶魔组织”为例，从隐藏层切入，解释整个神经网络的“工作”机制。

Day2 神经网络中的 激活函数 和 各层网络神经元工作的一般化简化神经元图形激活函数根据点火与否，生物学上的神经元的输出 y 分别取值 1 和 0回顾 Day1 中利用单位阶跃函数表示的点火公式：u(z)={0(z<0)1(z≥0) u(z) = \begin{cases} 0 & (z < 0) \\ 1 & (z \geq 0) \end{cases} u(z)={01​(z<0)(z≥0)​y=u(w1x1+w2x2+w3x3−

5张图解释 神经网络中神经元工作的数学表示