xdy1120的博客

Logistic 因为其函数形状，又叫做sigmoid函数

实例：学习 XOR：基于梯度的学习：代价函数：使用最大似然学习条件分布：学习条件统计量：

散度矩阵：散布矩阵又称散度矩阵，将协方差矩阵乘以系数（n-1）就得到了散布矩阵，所有散布矩阵与协方差矩阵矩阵的作用是一样的，理解了协方差矩阵也就理解了散布矩阵，它们只有一个系数只差而已。...

决策树的构建：

平行线之间的距离：

通常，我们会更加关注机器学习算法在未观测数据上的性能如何，因为这将决定其在实际应用中的性能。因此，我们使用 测试集（test set）数据来评估系统性能，将其与训练机器学习系统的训练集数据分开。无监督学习算法：训练含有很多特征的数据集，然后学习出这个数据集上有用的结构性质。在深度学习中，我们通常要学习生成数据集的整个概率分布，显式地，比如密度估计，或是隐式地，比如合成或去噪。还有一些其他类型的无监督学习任务，例如聚类，将数据集分成相似样本的集合。监督学习算法：训练含有很多特征的数据集，不过数

机器学习算法通常需要大量的数值计算。这通常是指通过迭代过程更新解的估计值来解决数学问题的算法，而不是通过解析过程推导出公式来提供正确解的方法。常见的操作包括优化（找到最小化或最大化函数值的参数）和线性方程组的求解。对数字计算机来说实数无法在有限内存下精确表示，因此仅仅是计算涉及实数的函数也是困难的。舍入误差会导致一些问题，特别是当许多操作复合时，即使是理论上可行的算法，如果在设计时没有考虑最小化舍入误差的累积，在实践时也可能会导致算法失效。下溢（underflow）：当接近零的数被四舍五入为零

序列模型为什么选择序列模型：

逻辑回归是一个用于二分类的算法。计算机中表示一张图片：为了把这些像素值放到一个特征向量中，我们需要把这些像素值提取出来，然后放入一个特征向量x.把图片中所有的红、绿、蓝像素值都列出来。如果图片的大小为 64x64 像素，那么向量 ???? 的总维度，将是 64 乘以 64 乘以 3，这是三个像素矩阵中像素的总量。在这个例子中结果为 12,288。现在我们用???????? = 12,288，来表示输入特征向量的维度.符号定义 ：逻辑回归:sigmoid函数:逻辑回归的代

python 下载地址：https://www.python.org/downloads/python配置环境变量pip下载地址https://pypi.org/project/pip/#files下载完成之后，在解压后的目录下，shift+鼠标右键 打开cmd或powershell ,输入python setup.py installpip配置环境变量C:\Pytho...

欠拟合和过拟合首先看下面的三幅图，第一幅拟合为了 y=θ0+θ1xy=θ0+θ1x 的一次函数第二幅拟合为了y=θ0+θ1x+θ2x2y=θ0+θ1x+θ2x2 的二次函数第三幅拟合为了 y=∑5j=0θjxjy=∑j=05θjxj的五次项函数最左边的分类器模型没有很好地捕捉到数据特征，不能够很好地拟合数据，我们称为欠拟合而最右边的分类器分类了所有的数据，也包括噪声数据，由于构造复杂...

导数一张图读懂导数与微分：　这是高数中的一张经典图，如果忘记了导数微分的概念，基本看着这张图就能全部想起来。　导数定义如下：　反映的是函数y=f(x)在某一点处沿x轴正方向的变化率。再强调一遍，是函数f(x)在x轴上某一点处沿着x轴正方向的变化率/变化趋势。直观地看，也就是在x轴上某一点处，如果f’(x)>0，说明f(x)的函数值在x点沿x轴正方向是趋于增加的；如果f’(x)&...