深度学习|序言、介绍深度学习

1.深度学习是什么

1.1 人工智能、机器学习、深度学习的区别与联系

人工智能：能感知、推理、行动和适应的程序

机器学习：随着数据量增加不断改进性能的算法

深度学习：（就是在找一个函数f ）机器学习的一个子集：利用多层神经网络从大量数据中进行学习

关系：人工智能包括机器学习包括深度学习

2.常见机器学习算法

2.1 KNN:K最近邻居

一种监督学习算法（有标签label）【无监督：无标签】，用于分类和回归问题，通过测量不同数据点之间的距离来预测，步骤为

a）距离度量：KNN使用欧式距离来衡量数据点之间的相似性

b）确定邻居数量K

c）投票机制

KNN算法常与权重一起使用判断。

2.2 决策树

决策树不善于处理未见过的算法

2.2.1 基尼系数

将基尼系数最小的标准来生成决策树

2.3 朴素贝叶斯算法

3.神经网络任务

3.1 常见神经网络的输入

a）向量

b）矩阵：图像

c）序列：有前后关系的向量，比如视频和句子、代码

3.2 常见神经网络的输出

a）回归任务：填空题，推测明天的温度有多高

b）分类任务：选择题

c）生成任务：简答题，结构化生成，代码

分类和回归是结构化的基础，分类时用数字表示类别。

4 深度学习步骤

4.1 定义一个函数（模型）

4.2 定义一个合适的损失函数

4.3 根据损失对模型进行优化

learning rate 的大小调整很关键，不停地更新w与b。