人工智能发展历程
1. 第一阶段:人工智能的诞生(1943 ~ 1956)
1950年, Alan Mathison Turing 提出了著名的图灵测试。
图灵测试 :指测试者与被测试者(一个人和一台机器)隔开的情况下,通过一些装置(如键盘)向被测试者随意提问。进行多次测试后,如果机器让平均每个参与者做出超过30%的误判,那么这台机器就通过了测试,并被认为具有人类智能1。
1956年,达特茅斯会议(Dartmouth Conference),提出了人工智能 (Artificial Intelligence) 的概念。
达特茅斯会议参会者包括 Marvin Minsky、John McCarthy、Claude Shannon、Nathan Rochester、 Allen Newell、Herbert Simon。1956年被后人称为人工智能元年2。
2. 第二阶段:人工智能第一次浪潮(1950 ~ 1970)
高潮:出现了逻辑主义(符号主义)和推理系统,即基于规则和逻辑,使用计算机进行逻辑推理,主要代表有专家系统。还出现了早期神经网络。
专家系统:它是一个智能计算机程序系统,其内部含有大量的某个领域专家水平的知识与经验,能够利用人类专家的知识和解决问题的方法来处理该领域问题。也就是说,专家系统是一个具有大量的专门知识与经验的程序系统,它应用人工智能技术和计算机技术,根据某领域一个或多个专家提供的知识和经验,进行推理和判断,模拟人类专家的决策过程,以便解决那些需要人类专家处理的复杂问题3。
低谷:
- 基础理论不足,如基于规则的方法遇到很多无法逾越的障碍。
- 受限于计算能力和存储空间,莱特希尔报告。
- 数据不足,如大规模数据库未建立
- 军用和商业上的失败
3. 第三阶段:人工智能第二次浪潮(1980 ~ 2000)
高潮4:
- 理论方面:统计学派登上历史舞台,在语音识别方面取代了专家系统。它基于已有的数据来获得一个模型和数据规则,当没有纳入这个模型的数据进入后,它通过提取的特征和数据模型来做预估。
- 算法方面:
- 支持向量机(SVM)快速发展,主要⽤用于⾯面部识别、⽂文本分类和模式识别。
- 神经网络算法得到了突破性进展,可用于模式识别,为其后的商业化打下了坚实的基础。
- 机器学习进入发展的最新阶段
- 应用方面:随着专家系统的大规模应用,知识库系统和知识工程得到了普及。
- 硬件方面:计算机硬件不断发展。
支持向量机(SVM):是一类按监督学习方式对数据进行二元分类的广义线性分类器,其决策边界是对学习样本求解的最大边距超平面5。
机器学习:专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能6。
低谷:很多雄心勃勃的大型人工智能计划都面临着推理能力弱、实用性差等难以克服的困难7。技术本身的实现程度支撑不起足够多的应用。当一种技术并没有在商业中深度渗透进去,自身又需要较多的研究资源,也没有坚实的理论基础让人看到高额投入肯定会产生效果时,那么它遇冷的可能性较大8。
4. 第四阶段:人工智能第三次浪潮(2006 ~ 至今)
- 大数据技术的广泛应用9
针对常规软件工具和常规计算方法无法获取、管理和处理的海量、多维度、多样化的数据集合,采用分布式的处理方式,使得能够获得实际的数据模型,并且让数据让数据模型能够产生更强大的决策力,洞察力,以及具备流程自我优化能力,例如CTR预估,推荐算法和风控模型。
- 深度学习的热潮10
深度学习是机器学习的一种,而机器学习是实现人工智能的必经路径。深度学习的概念源于人工神经网络的研究,含多个隐藏层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示,在计算机视觉、语音识别和机器翻译方面得到广泛应用。
- 强化学习11
强化学习是智能体(Agent)以“试错”的方式进行学习,通过与环境进行交互获得的奖赏指导行为,目标是使智能体获得最大的奖赏。用于描述和解决智能体(agent)在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。比如近些年赚足人们关注的AlphaGo就应用了该项技术。
- GAN12
生成式对抗网络(GAN, Generative Adversarial Networks )是一种深度学习模型,是近年来复杂分布上无监督学习最具前景的方法之一。模型通过框架中(至少)两个模块:生成模型(Generative Model)和判别模型(Discriminative Model)的互相博弈学习产生相当好的输出。可应用于图像生成和数据增强等方面。
研究方向(包含算法)
- 机器学习(Machine Learning, ML)13
按照现阶段主流分类来看,机器学习可分成四类:
经典机器学习
强化学习
神经网络和深度学习
集成方法
- 经典机器学习
类型 | 代表算法 |
---|---|
监督学习 | 决策树、朴素贝叶斯分类、 最小二乘法、逻辑回归、 支持向量机 |
无监督学习 | 聚类、降维(主成分分析、奇异值分解)、关联规则 |
通常,强化学习的设置由两部分组成,一个是智能体(agent),另一个是环境(environment)。
基本要素:
- 动作(A):智能体可以采取的所有可能的行动。
- 状态(S):环境返回的当前情况。
- 奖励(R):环境的即时返回值,以评估智能体的上一个动作。
- 策略(π):智能体根据当前状态决定下一步动作的策略。
- 价值(V):折扣(discount)下的长期期望返回,与 R 代表的短期返回相区分。Vπ(s) 则被定义为策略 π 下当前状态 s 的期望长期返回值。
- Q 值或行动值 (Q):Q 值与价值相似,不同点在于它还多一个参数,也就是当前动作 a。Qπ(s, a) 指当前状态 s 在策略π下采取动作 a 的长期回报。
-
神经网络和深度学习
-
集成方法
在集成方法中,我们通常会训练多个「弱模型」,以期待能组合成为一个强大的方法,例如梯度提升树、随机森林。一般而言集成方法的「组合方式」主要可以分为三种:Stacking、Bagging、Boosting。
-
推荐算法9
协同过滤推荐
基于内容的推荐
基于知识的推荐
推荐系统的搭建、评估 -
深度学习(Deep Learning, DL)
BP神经网络
深度神经网络(Deep Neural Network, DNN)
卷积神经网络(Convolutional Neural Network,CNN)
循环神经网络(Recurrent Neural Network,RNN)
对抗生成网络(Generative Adversarial Networks, GAN)
未完待续… -
计算机视觉(Computer Vision, CV)9
深度卷积神经网络
OpenCV
迁移学习
未完待续… -
自然语言处理(Natural Language Processing, NLP)9
深度机器学习
分词
句法和语义分析
词向量
自然语言理解
未完待续…
学习资源
-
数学理论学习
《统计学习方法》 李航 清华大学出版社
《数学之美》 吴军 人民邮电出版社 -
机器学习
《机器学习》 周志华 清华大学出版社 🍉 -
深度学习
《深度学习》Ian Goodfellow,Yoshua Bengio, Aaron Courville 人民邮电出版社 🌹
未完待续…
特别声明:本篇博文参考了万门大学《人工智能知识体系图谱》课程https://www.wanmen.org/courses/5d08b80bbae54bee0c53bdf0/lectures/5d3eb59352b36fe28e53f5c4
https://baike.baidu.com/item/%E5%9B%BE%E7%81%B5%E6%B5%8B%E8%AF%95/1701255?fr=aladdin ↩︎
https://baike.baidu.com/item/%E8%BE%BE%E7%89%B9%E8%8C%85%E6%96%AF%E4%BC%9A%E8%AE%AE ↩︎
https://baike.baidu.com/item/%E4%B8%93%E5%AE%B6%E7%B3%BB%E7%BB%9F/267819?fr=aladdin ↩︎
https://www.sohu.com/a/201171495_730526 ↩︎
https://baike.baidu.com/item/%E6%94%AF%E6%8C%81%E5%90%91%E9%87%8F%E6%9C%BA/9683835?fromtitle=SVM&fromid=4385807&fr=aladdin ↩︎
https://baike.baidu.com/item/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/217599?fr=aladdin ↩︎
http://finance.sina.com.cn/roll/2016-04-08/doc-ifxrcuyk2430912.shtml ↩︎
http://www.qianjia.com/html/2018-06/14_295433.html ↩︎
https://baike.baidu.com/item/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/3729729?fr=aladdin#1 ↩︎
https://baike.baidu.com/item/%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0/2971075?fr=aladdin ↩︎
https://baike.baidu.com/item/Gan/22181905?fr=aladdin ↩︎
https://mp.weixin.qq.com/s/g90puUxYe_B9_W-Cd5p04w ↩︎
https://blog.youkuaiyun.com/vmxhc1314/article/details/81186925?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.nonecase&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.nonecase ↩︎
https://blog.youkuaiyun.com/daydayjump/article/details/92620460 ↩︎
https://mp.weixin.qq.com/s/_dskX5U8gHAEl6aToBvQvg ↩︎