21、机器学习模型相关知识解析

机器学习模型相关知识解析

支持向量机模型评估

在支持向量机（SVM）模型的评估中，有一系列具体的操作和关键指标值得关注。操作步骤如下：
1. 点击评估（Assessment）选项卡。
2. 向下滚动并观察拟合统计（Fit Statistics）窗口。

在验证分区（VALIDATE partition）上，自动调优（Autotune）模型的平均平方误差为 0.1760。

在自动调优过程中，还涉及到核函数（Kernel）和惩罚参数的选择。被选中的是 2 次多项式核函数，惩罚项的值为 12.72，这与其他 SVM 默认使用的惩罚参数值 1 有很大差异，且迭代次数为 25。

将自动调优的 SVM 与管道中的其他模型进行比较时，依据拟合统计中的平均平方误差这一指标，可以发现自动调优的 SVM 在平均平方误差方面明显比演示中最后调优的模型差。

模型工作室各节点功能

在模型工作室中，不同的节点具有不同的功能，以下为你详细介绍：
- 数据（Data）选项卡 ：创建新项目后，模型工作室会带你进入数据选项卡，在这里你可以进行以下操作：
- 修改变量角色和测量级别。
- 管理全局元数据。
- 管理要显示在变量表中的列。
- 数据探索（Data Exploration）节点 ：该节点可以实现以下功能：
- 对数据集进行概况分析。
- 观察最重要的输入或可疑变量。
- 文本挖掘（Text Mining）节点 ：它会基于在多个文档中共同出现的词组创建主题，并为每个词 - 文档对分配每个主题的得分。

常见模型相关概念问答

以下是一些常见模型相关概念的问答，以表格形式呈现：
|问题|答案|
| ---- | ---- |
|为什么要对输入进行分箱？|所有上述原因（文档未详细说明“所有上述原因”具体所指）|
|对数几率（logit）函数的范围是多少？|(-∞, +∞)|
|关于决策树，以下哪些说法是正确的？| - 为了预测案例，决策树使用涉及输入变量值或类别的规则。
- 分裂的对数价值（logworth）有时可能为负。
- 通过将落入每个叶子节点的观测值比例乘以该叶子节点中正确分类的比例，然后对所有叶子节点求和，可得到准确率。|
|关于基于树的模型，以下哪个说法是正确的？|训练数据的微小变化可能导致树的拓扑结构发生较大变化。|
|关于神经网络，以下哪个说法是正确的？| - 神经网络最适合纯预测任务。
- 在可视化数据挖掘和机器学习中，神经网络有两种优化方法：有限内存布罗伊登 - 弗莱彻 - 戈德法布 - 香农（LBFGS）和随机梯度下降（SGD）。|
|支持向量机仅使用最接近分离超平面的观测值来构建，是否能减少维度灾难的影响？|正确|
|关于 ROC 曲线，以下哪个说法是正确的？|C 统计量等于一致案例的百分比加上一半的平局案例的百分比。|
|当有区间目标时，可使用以下哪个拟合统计量来选择最佳模型？|平均平方误差|

数据挖掘操作相关流程总结

以下是 mermaid 格式的流程图，展示了在模型工作室中的一些基本操作流程：

graph LR
    A[创建新项目] --> B[进入数据选项卡]
    B --> C{进行操作}
    C --> C1[修改变量角色和测量级别]
    C --> C2[管理全局元数据]
    C --> C3[管理变量表列]
    B --> D[使用数据探索节点]
    D --> D1[数据集概况分析]
    D --> D2[观察输入或可疑变量]
    B --> E[使用文本挖掘节点]
    E --> E1[创建主题与分配得分]

通过以上内容，我们对模型工作室中的各种操作和不同机器学习模型的相关概念有了更清晰的认识。无论是支持向量机模型的评估，还是各个节点的功能，都在机器学习的流程中扮演着重要的角色。在实际应用中，我们可以根据具体的需求和数据特点，合理运用这些知识和工具，以达到更好的建模和预测效果。

支持向量机特性及优势

支持向量机（SVM）有其独特的特性和显著优势。由于在构建时仅使用最接近分离超平面的观测值，这一特性使得它能够有效减少维度灾难的影响。这意味着在处理高维数据时，SVM 可以避免因维度增加而带来的计算复杂度和过拟合问题，从而在复杂的数据环境中依然保持较好的性能和泛化能力。

模型评估指标相关要点

在模型评估方面，不同的场景需要使用不同的指标。例如，当面临区间目标时，平均平方误差是一个可以用来选择冠军模型的重要拟合统计量。而对于 ROC 曲线，其 C 统计量有着特定的计算方式，它等于一致案例的百分比加上一半的平局案例的百分比，这个指标能够直观地反映模型在分类任务中的性能表现。

常见模型优化方法

不同的模型有着不同的优化方法，以下为你详细介绍：
- 神经网络 ：在可视化数据挖掘和机器学习中，神经网络有两种优化方法，分别是有限内存布罗伊登 - 弗莱彻 - 戈德法布 - 香农（LBFGS）和随机梯度下降（SGD）。这两种方法各有优劣，LBFGS 通常在处理小规模数据时表现较好，它能够较快地收敛到局部最优解；而 SGD 则更适合大规模数据，它通过随机采样数据进行迭代更新，能够在一定程度上避免陷入局部最优，并且计算效率较高。
- 支持向量机 ：在自动调优过程中，支持向量机需要选择合适的核函数和惩罚参数。如在某些情况下，会选择 2 次多项式核函数，同时惩罚项的值也会根据具体情况进行调整，以达到更好的模型性能。

不同模型特性对比

为了更清晰地了解不同模型的特性，以下是一个对比表格：
|模型类型|特性|
| ---- | ---- |
|决策树| - 使用涉及输入变量值或类别的规则进行预测。
- 分裂的对数价值有时可能为负。
- 训练数据的微小变化可能导致树的拓扑结构发生较大变化。|
|神经网络| - 最适合纯预测任务。
- 有 LBFGS 和 SGD 两种优化方法。|
|支持向量机| - 仅使用最接近分离超平面的观测值构建，减少维度灾难影响。
- 自动调优需选择合适核函数和惩罚参数。|

机器学习操作流程总结

以下 mermaid 格式的流程图展示了从模型选择到评估的整体流程：

graph LR
    A[选择模型类型] --> B{是否为支持向量机}
    B -- 是 --> C[自动调优选择核函数和惩罚参数]
    B -- 否 --> D{是否为神经网络}
    D -- 是 --> E[选择优化方法（LBFGS 或 SGD）]
    D -- 否 --> F[按对应模型规则操作]
    C --> G[模型训练]
    E --> G
    F --> G
    G --> H[模型评估]
    H --> I{使用平均平方误差评估?}
    I -- 是 --> J[有区间目标时选择冠军模型]
    I -- 否 --> K[使用其他合适指标评估]

综上所述，在机器学习领域，不同的模型有着各自独特的特性、优化方法和评估指标。我们需要根据具体的数据特点和任务需求，合理选择模型，并运用相应的优化和评估方法，以实现高效准确的预测和分析。在实际应用中，不断地实践和总结经验，能够帮助我们更好地掌握这些模型和方法，从而提升解决实际问题的能力。