人工智能

人工智能（PS：个人笔记，文章处于未完成状态）

简介

实际运用

学习目标

1. 理解算法原理，实现步骤
2. 熟练运用算法解决实际问题
3. 熟练掌握主流框架，Tensoflow，Sklearn，Numpy

人工智能，机器学习，深度学习三者关系

人工智能包含机器学习，机器学习包含深度学习，如下图

机器学习

1、线性回归

数据呈线状，解决两个变量之间的关系问题，比如：身高与体重的关系，房子面积与房价的关系

2、逻辑回归

数据呈离散状，解决分类问题，比如：猫狗识别，美女与不好看的女的识别

3、决策树

解决决策类问题，比如：择偶问题，银行是否给一个人放贷问题，找最优解问题，如下面例子

女儿：多大年纪了？

母亲：26。

女儿：长的帅不帅？

母亲：挺帅的。

女儿：收入高不？

母亲：不算很高，中等情况。

女儿：是公务员不？

母亲：是，在税务局上班呢。

女儿：那好，我去见见。

4、支持向量机（SVM）

解决分类问题

5、贝叶斯

解决分类问题

6、KNN（K – 最近邻算法）

解决分类问题和回归问题

7、K 均值算法

非监督式学习算法，解决聚类问题

8、随机森林

9、降维算法

10、Gradient Boosting 和 AdaBoost 算法

11、遗传算法（Genetic Algorithm）

解决择优问题，多元函数求最值

第一个考虑的点：适应函数是什么，有多少个输入参数

假如：找老婆跟 钱财，长相，身材，学历 有关系，问？这四个应该怎么组合才能让你找到最漂亮的老婆

现在采光是100，它与 X1 , X2 , X3有关系，请问 X1 , X2 , X3 分别是多少？

比如现在采光是100（最优的），前面的三个特征值到底是多少才能得出采光的100。

问题：三个特征值如何转成基因，转成一个基因还是三个基因

实现步骤

确认适应度函数

确认特征值

1、编码

2、初始化种群

3、评估种群中个体适应度

4、选择

5、交叉

6、变异

7、重复 3、4、5、6 步骤，进行演化

12、多目标遗传优化算法 NSGA

13、多目标遗传优化算法 NSGA-Ⅱ

简介与应用：建筑设计中，采光，能耗，碳排放优化

深度学习

人工神经网络（ANN）

简介与应用

数据预测，推荐系统

第一个考虑的点：有多少个特征值，有多少个目标值，网络结构是怎么样的？有什么东西，想得到什么样的结果

实现步骤

1、数据预处理

​ 原因：

​ 1、输入数据的单位不一样，有些数据的范围可能特别大，导致的结果是神经网络收敛慢、训练时间长。

​ 比如，身高1.7米，体重120斤，那么1.7和120不在一个数量级上，导致1.7的权重被淹没

​ 2、数据范围大的输入在模式分类中的作用可能会偏大，而数据范围小的输入作用就可能会偏小。

​ 3、由于神经网络输出层的激活函数的值域是有限制的，因此需要将网络训练的目标数据映射到激活函数 的值域。例如神经网络的输出层若采用S形激活函数，由于S形函数的值域限制在(0,1)，也就是说神 经网络的输出只能限制在(0,1)，所以训练数据的输出就要归一化到[0,1]区间。

​ 4、S形激活函数在(0,1)区间以外区域很平缓，区分度太小。例如S形函数f(X)在参数a=1时，f(100)与f(5) 只相差0.0067。

​ 方法：

​ 1、去均值

​ 2、归一化

​ 3、PCA

​ 4、白化

2、划分训练集，测试集

3、初始化网络模型

4、训练

​ 1、正向传播

​ 1、线性变换

​ 2、非线性激活函数

​ 2、反向传播

​ 1、计算误差

​ 2、求导

​ 3、更新权值

5、训练完毕，保存权值，阀值

6、载入数据进行预测

7、实例：房价预测

卷积神经网络（CNN）

简介与应用：图像识别

实例：猫狗识别，验证码识别

循环神经网络（RNN）

简介与应用：语音识别

2、划分训练集，测试集

3、初始化网络模型

4、训练

​ 1、正向传播

​ 1、线性变换

​ 2、非线性激活函数

​ 2、反向传播

​ 1、计算误差

​ 2、求导

​ 3、更新权值

5、训练完毕，保存权值，阀值

6、载入数据进行预测

7、实例：房价预测