hanmo22357的博客

数学中有标量、向量和矩阵的概念，它们的维度分别是0、1、2。也就是说，标量中元素的位置固定，向量中元素的位置需要通过其索引确定，矩阵中的元素位置需要通过其行号和列号确定。张量可以视为矩阵的扩展，可以用于表示无穷维度的数据。张量（Tensor）是Pytorch库中的基本数据类型，Pytorch中各种基本数字类型都有其对应的Tensor类型，但是没有内嵌的字符串类型。

决策树基本概述：决策树的定义：分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型：内部结点和叶结点。内部结点表示一个特征或属性，叶结点表示一个类。决策树分类过程：从根节点开始，对实例的某一特征进行测试，根据测试结果将实例分配到其子结点。递归执行上述过程直到到达叶节点。决策树的规则构建：由决策树的根节点到叶节点的每一条路径构建一条规则；路径上内部结点的特征对应着规则的条件，而叶结点的类对应着规则的结论。规则集合的性质：互斥并且完备。也就是说，每一个实例都被且仅被一条路径

首先给出高数课程中梯度的定义：如果对上面的定义没有理解也没有关系，用通俗的语言来说，梯度实际上就是一个向量，向量中的各个元素表示多元函数在某一个点对于其中一个自变量的偏导数。计算在该点处函数f(x)对于变量x、y、z的偏导数。计算出的结果分别为2/9，4/9和-4/9。对偏导数进行拼接，所以该函数在该点的梯度为(2/9，4/9，-4/9）。梯度下降算法是一种对损失函数进行优化来得到使得损失函数值最小的机器学习模型的一种算法。也就是说，梯度下降算法是一种用来在机器学习中求解最佳模型的算法。

朴素贝叶斯法将实例分到后验概率最大的类中，这等价于期望风险最小化。

为了提高K近邻搜索的效率所使用的特殊结构，用于存储训练数据以减少距离计算的次数。

假设输入空间是R^n，输出空间是y={+1,-1}。输入x表示实例的特征向量，对应于输入空间的点；输出y表示实例的类别。

从标注数据中学习预测模型的机器学习问题。监督学习的本质：学习输入到输出的映射统计规律。

在支持向量机中，如果当前维度不存在一个能够完全正确地划分两类样本的超平面，那么就可以把样本从原始空间映射到一个更高维的特征空间，使得样本在这个更高维度的特征空间中线性可分。：核函数可以将高维特征空间中两个向量的内积计算过程转化为求解原始特征空间中两个向量的核函数值，从而大大降低了计算高维内积的困难，并且映射方式由核函数本身唯一显式确定。：支持向量机的解具有稀疏性，是指支持向量机的模型参数只与样本特征向量中少数的支持向量有关系，而与大多数样本点无关。A.当数据是线性可分时，可以考虑支持向量机的基本型。

算术运算按照行列索引进行补齐后运算，运算结果默认为浮点数形式。如果补齐时发生空缺则自动填充空值NaN。高维数据和低维数据之间发生的运算为广播运算。算术运算可以直接使用运算符进行，也可以使用相应的方法。使用方法相比于直接使用运算符，其优点在于可以使用一些可选参数。在排序中，所有NaN值都默认放到排序的末尾。

ndarray数组的索引和切片方式与Python中列表的索引和切片操作相同。

距离超平面最近的几个训练样本点所对应的特征向量称为支持向量，两个不同类的支持向量到超平面的距离之和称为间隔。当超平面的系数确定后，间隔的大小也就确定了。

神经网络是具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。神经网络是一种难解释的“黑箱模型”。

决策树是表示面临决策问题时的一种基于树结构定义的决策模型。一棵决策树上的所有非叶子结点表示进行一次判断，叶子结点表示最终的分类结果。

线性模型试图得到一个以各个属性值为自变量的线性函数进行预测。

机器学习是一门致力于研究如何通过计算的手段，利用经验来改善系统自身的性能的学科。机器学习中所研究的计算机算法，称为“学习算法”。

把学习器实际预测输出与样本的真实输出之间的差异称为误差。学习器在训练集上的误差称为训练误差或经验误差；学习器在新样本上的误差称为泛化误差。