人工智能发展史

参考https://mp.weixin.qq.com/s/cwKTHn5obchi8hIeKw8s5g

 

发展历史

人工智能的发展追根到底还是为了让人们有更加方便快捷的生活，故将发展分为两种，体力解放和脑力解放。

黄金时期1956-1974

在这个时期有影响力的研究包括通用问题求解器（general problem solver）,以及最早的聊天机器人。但是这时候的智能并不是真正的智能，他的方法类似先把问题和答案都设置好，只要提出相应的问题就给出相匹配的答案。

第一次寒冬1974-1980

在人工智能刚刚开始研究时，相关的人说了很多大话，但是遗憾的是这些大话都没有实现，所以人们开始对人工智能这个东西有了很多负面的评价，各种投资啥的也没了，于是人工智能这一研究领域进入了第一次寒冬。在此期间，还是有一些进展的，虽然并没有溅起多大的水花，1958年，Frank Rosenblatt提出了感知机的概念，这可以认为是神经网络最开始的地方。

兴盛期1980-1989

专家系统兴盛让人工智能又重新进入到大众的视线。反向传播算法出现了。

第二次寒冬1989-1993

专家系统成本太高了，得不到商业的认可，人工智能的热度再次冷却。

发展期1993-2006

这一时期主流是机器学习。统计学习理论和SVM的应用是机器学习发展得更好了。

爆发期2006到现在

这次爆发是由神经深度神经网络带动的。之前神经网络也有应用，但是效果一般，并没有引起人们的重视。神经网络在一些大赛中取得了很好的成绩，关注度一下子就上来了。2016年AlphaGo以4：1的比分打败了李世石让更多的人了解到了深度神经网络这个东西。

2006年到现在分领域的主要进展

计算机视觉

1 无监督预训练

数据很难得到，有标签的数据更难得到，在数据缺乏的条件下，想要得到很深的网络是一件困难的事情。在2010年之前，人们试图通过各种技巧得到更深的网络，主要想法就是通过无监督的预训练。代表文章包括Hinton等人的《Reducing the dimensionality of data with neural networks》发表在Nature上）、Bengio等人在NIPS 2007上发表的《Greedy layer-wise training of deep networks》，Lee等人发表在ICML 2009上的《Convolutional deep belief networks for scalable unsupervised learning of hierarchical representations》，Vincent等人2010年发表的《Stacked denoising autoencoders: Learning useful representations in a deep network with a local denoising criterion》。

2 深度卷积神经网络

2012年Alex等人的AlexNet在LSVRC-2012 ImageNet比赛中取得了很好的成绩，卷积神经网络的名气大振。之后的优化就朝着更深参数更多的方向发展，这样产生一些好的模型和效果，但是也会存在一些问题，比如过拟合、计算量、梯度消失等问题。

参考论文：《ImageNet classification with deep convolutional neural networks》

2014年大赛冠军GoogleNet,提出了Inception的方法（即通过多个卷积核提取图像不同尺度的信息，最后进行融合，可以得到图像更好的表征。）

参考论文：《Going deeper with convolutions》

2015年的ResNet中，何恺明等人引入了残差网络，有了残差网络，可以将前面的信息加入到后面的网络训练中，通过这种方法 ，他们得到了更深的网络。

参考论文：《Deep residual learning for image recognition》

2016年Szegedy融合残差结构和Inception结构，进一步提升了识别效果。

参考论文：《Inception-v4, inception-resnet and the impact of residual connections on learning》

以上的网络一般用于分类。

3 目标监测和实例分割

传统的目标检测大概分两步：目标定位，目标识别。将CNN用于目标监测最简单的方法可以是，先用传统的方法来定位，然后用CNN来识别，这种方法的话效果不好。

2014年Girshick等人提出Region Proposal来产生候选区域，然后用CNN来识别。缺点：因为要对所有的候选区域做判断，所以速度非常慢。

参考论文：《Rich feature hierarchies for accurate object detection and semantic segmentation》

2015年，Girshick等人提出Fast R-CNN,通过RoI Pooling层一次计算所以候选区域的特征，从而实现快速计算。之后又提出了Faster R-CNN,解决Regional Proposal速度慢的问题，方法是使用Region Proposal Networks（RPN）替代了原来的Regional Proposal。

参考论文：《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》