DataAnalysis-Maggie-Lecture6-机器学习基础

ML的基础框架

1定义要解决的问题
2构建数据集
3数据变换
4训练模型
5使用模型预测

example：垃圾邮件标记系统来解释术语

Dataset:一堆的邮件
Sample/Instances:一封邮件
Feature/Variables:邮件中的单词，标点，URL，标题等
Target/Labels:邮件的标签，正常，spam，群发等
Model:一个可以标记邮件的软件
Hyperparameters:构建模型的参数

监督学习
分类：输出一个label，离散的。
回归：输出一个value，连续的。

决策树生成的三种算法 ID3，C4.5，CART

支持向量机步骤

1画出决策边界的超平面2计算边距3更新超平面使Margin最大4重复二三步骤

非监督学习

1聚类 2降维

模型粗略估计，可用于调参

CrossValidation交叉验证：让我们粗略了解不同的机器学习方法的效果。
10-fold交叉验证：将训练集均分10份，训练10次每一份都有机会当测试集。

分类模型评价

ConfusionMatrix混淆矩阵：
[TP，FN]
[FP，TN]
Acc准确率（所有样本中说对的比率），
Recall（所有真样本中，被预测为真的比率），增加召回率，会倾向于判真，增加成本。
Precision（所有被预测为真的样本，确实为真的比率），怎加精确率，判假增加，风险增加。
F1(R和P的调和平均数)，
TPR（预测为真，中说对的概率），FPR（预测为假，中说对的概率）
ROC曲线，AUC，越靠近左上角越好。
PR曲线，AUC，越靠近右上角越好。

回归模型评价

MSE 均方差
MAE 平均绝对值差