张迁的博客

第一章 神经网络的思想 1.神经元工作的数学表示 w1x1+w2x2+w2x2w_1x_1+w_2x_2+w_2x_2w1​x1​+w2​x2​+w2​x2​ w1w2w3w_1 w_2 w_3w1​w2​w3​ 是输入信号x1x2x3x_1x_2x_3x1​x2​x3​对应的权重 2.点火的式子 y=u(w1x1+w2x+2+w3x3−θ)y = u(w_1x_1+w_2x+2+w_3x_3-\...

1.神经网络所需的函数 1.一次函数 y=ax+b(a,b为常数，a≠0)y=ax+b\quad(a,b为常数，a\neq0)y=ax+b(a,b为常数，a​=0) a称为斜率，b称为截距 2.二次函数 y=ax2+bx+c(a,b,c为常数，a≠0)y=ax^2+bx+c\quad(a,b,c为常数，a\neq0)y=ax2+bx+c(a,b,c为常数，a​=0) 例如：最小二乘法 3.单位...

1.神经网络的参数和变量 1.参数和变量 从数学上来看，神经网络是一种用于数据分析的模型，这个模型是由权重和偏置决定的。像权重和偏置这种确定数学模型的常数称为模型的参数 数据分析的模型还需要值随着数据而变化的变量 2.神经网络中用到的参数和变量数量庞大 3.神经网络中用到的变量名和参数名 xix_ixi​表示输入层的第i个神经单元的输入的变量。由于输入层的神经单元的输入和输出为同一值。所以也是表示...

沿着最陡的坡度下山，就能以最少的步数达到山脚。梯度下降法就是讲这个原理医用在数学的数值分析方法。为了求出梯度的方向，需要进行求导，但在神经网络的世界中，导数计算的计算量十分巨大，误差反向传播法就解决了这个难题 1.梯度下降法的回顾 1.神经网络的参数（权重和偏置）是通过将代价函数最小化来确定的。最小化的方法中最有名的梯度下降法 2.在神经网络中应用梯度下降法 3.实际的计算十分困难 4.梯度计算：...

深度学习是人工智能的一种实现方法。 本文考察作为深度学习的代表的卷积神经网络的数学结构 1.讲解卷积神经网络的结构 1.深度学习是重叠了很多层的隐藏层（中间层）的神经网络。 这样的神经网络使隐藏层具有一定的结构，从而更加有效的进行学习 下面我们来考察一下卷积神经网络的设计思想 2.具体来说隐藏层是多个由卷积层和池化层构成的层组成的，它不仅“深”而且含有内置的结构 3.卷积神经网络和简单的神经网络比...