4、机器学习与深度学习：原理、算法及评估

机器学习与深度学习：原理、算法及评估

1. 机器学习概述

机器学习是一门处理结构化、非结构化或半结构化数据，并从中得出推论的学科，在大多数情况下，是以对训练模型未见过的新数据进行预测的形式呈现。基于学习方法，机器学习算法主要分为监督学习和无监督学习两类。这些技术可用于在调查网络犯罪和/或网络威胁案件时识别网络威胁及其来源。

1.1 监督学习

监督学习需要有标签的数据，即已知类别特征的数据。数据通常被分为训练集和测试集，训练集通常比测试集大，常见的划分比例是 70% 和 30%。这样算法可以在训练过程中进行预测，并根据预测值与原始类别特征值之间的“距离”（即训练误差）对模型进行修正。

为了识别训练误差，需要选择合适的损失函数，损失函数的类型取决于分类问题（二元分类、多类分类）。例如，常用的交叉熵损失函数（也称为对数损失函数）如下：
[
L(y,\hat{y}) = -y\log(\hat{y}) - (1 - y)\log(1 - \hat{y})
]
其中，“$y$” 对应原始类别特征值，“$\hat{y}$” 是预测值。对于二元分类，“$y$” 取值为 “0” 或 “1”，“$\hat{y}$” 取值范围是 [0,1]。

监督学习包括分类和回归算法。分类算法用于预测有限集合的值，而回归算法用于预测实际值。下面介绍几种常见的分类算法：
- 决策树 ：决策树是一种创建树状结构的分类算法，由节点和边组成。在训练过程中，决策树通过选择能最好地根据类别特征分离数据的特征值，将训练集划分为越来越小的数据子组。内部节点代表决策点，外部节点（叶子节点）代表类别标签