qq_43449643的博客

模型参数，计算量统计方法

假设我们要训练一个芒果分类的机器学习模型，首先我们列出每个芒果的特征（feature)，包括颜色，大小，形状，产地，品牌等，以及我们需要预测的标签(label)。常见的超参数包括：聚类算法中的类别个数、梯度下降法中的步长，正则化项的系数，神经网络的层数，支持向量机中的核函数等。监督的特征学习的目标是抽取对一个特定的预测任务最有用的特征，比如线性判别分析（LDA).而无监督的特征学习和具体任务无关，其目标是减少冗余信息和噪声，比如主成分分析（PCA).不同类型的数据，其原始特征的空间也不相同。

是指输入数据的底层特征和高层语义信息之间的不一致性和差异性，比如给出几张“猫”的照片，这些照片在像素级别上的差异性会非常大，我们理解这些照片为猫是在高层语义概念上的，如果一个预测模型直接建立在底层特征之上，则对模型的预测能力要求过高。： 为了学习一种好的表示，需要构建具有一定深度的模型，并通过学习算法来让模型自动学习出好的特征表示（从底层特征，到中层特征，再到高层特征），从而提高模型的预测准确率。一般来说在实际任务中，不同模型的性能的相差不多，而是前三步的处理对准确性起着关键的作用。在机器学习的过程中，