深度学习入门

人工智能、机器学习、深度学习的关系

1 人工智能

1956年，几位科学家相聚在达特茅斯会议提出了人工智能的概念。当时计算机刚刚出现不久，他们希望通过用计算机来构造复杂的，拥有与人类智慧具有同样本质的机器。然后几十年，人工智能一直在两极分化，有些人认为这个是改变人们未来生活的一个大的方向；但是有的人认为人工智能是一种噱头，或者是一种泡沫。但是在2012年以后，数据量大幅度上涨，而且算力也极大的提升，人工智能才开始大的爆发。我们所了解的人工智能大多数是偏向应用的。主要的应用方向如下：

• CV
  • 图像分类
  • 物体检测
  • 语义分割
  • 视频分析
• NLP
  • 基础：词法分析、词向量、语言模型
  • 核心：语义表示(bert)、文本相似度计算、文本生成
  • 应用：情感分析、阅读理解、机器翻译、对话系统
• Recommender System
  • 传统推荐算法(机器学习里面的关联规则)
  • 基于深度学习的推荐算法(FM，FFM，DeepFM)
• Speech
  • 语音识别
  • 语音合成

2 机器学习

机器学习实际上是一种实现人工智能的方法。通常来说最基本的做法就是使用算法来解析数据，从里面去学习；然后对真实世界里面的事件做出决策或者预测。机器学习实际上是来源于早起的人工智能领域。

典型代表算法：决策树、聚类、贝叶斯分类、支持向量机、adaboost等等。

从方法上来分：

• 监督学习：分类
• 非监督学习：聚类
• 半监督学习：集成学习、深度学习、强化学习

3 深度学习

深度学习实际上是机器学习的一个子集。最初的深度学习其实上是利用神经网络来解决特征表达的一种过程，我们可以简单的认为它是一个包含了多个隐含层的神经网络结构。

深度学习之所有受到广泛关注的原因是，它在CV领域的效果确实要比许多传统的机器学习算法效果要好；其在NLP和一些其他的方向上也有不错的进展。

值得注意的是，深度学习不可能完全取代机器学习，原因在于并非所有的任务都能用深度学习来完成，深度学习有时候是黑盒的，具有不可解释性。需要大量的训练数据才能展现出较好的效果。

但是像机器学习，我们通常要解决的是一个凸优化问题，当面对一个凸优化问题的时候，我们往往可以找到一个最优解，并可以通过数学公式推导来证明这个理论的完备性和这个算法的可解释性。

深度学习有哪些应用

1. 视频自动分类、视频语义向量、视频标签集
2. 精密零件智能分拣
3. AI识虫检测系统(百度paddlepaddle和北京农业大学的项目合作：检测害虫)

如何快速入门深度学习

1 打好前置基础

• 编程语言：Python
• 数学基础：高数、线性代数、概率论、信息论、数值分析
• 基本机器学习概念：信息熵、损失函数(单样本)、代价函数(多样本)、目标函数(通常给代价函数添加一个正则化项作为模型的目标函数)等等

2 跑demo，但不仅仅是跑demo

• 先上手跑第一个demo
• 调优调参
• 换换自己的数据集(数据怎么导入、怎么清洗、怎么预处理)
• 尝试部署一下

3 参加几场数据科学比赛

• 从往期经典比赛入手
• 看别人的优质notebook和经验分享
• 参加一场正式比赛
• 学会与人组队刷高分

4 参加工业项目/开源项目

• 提升自己的数据敏感性(数据清洗、数据预处理、特征组合)
• 积累实际项目中的tricks、学会总结
• 提高工程能力，算法工程师首先是个工程师