AT弄潮儿

深度学习必备手册 阿里云云栖社区 关注2017.10.11 16:32 字数 10063 阅读 1233评论 1喜欢 123摘要：深度学习作为人工智能的前沿技术，虽然一方面推动者人工智能的发展；但是人类的终极目标四强人工智能。最近也有一些关于类似于笔者认为的广度学习的出现，但是宗其所属，还是应该在深度学习发展的历史上前进。 

一、基本概念扫盲人工智能、机器学习、神经网络、深度学习这些字眼相信一些人都见过，但是并不知道他们之间的关系，这里本人整理相关资料后给出较为准确的定义。这里大家先看如下一张图：正如上图所示，人工智能指的是整个领域，它包含了机器学习这个概念，而深度学习则又包含在机器学习的概念范畴当中。三个概念在时间顺序上依次发展，逐渐细化和深入。人工智能：人工智能的范围是相当广的，智能

2-1、标量一个标量就是一个单独的数，一般用小写的的变量名称表示。2-2、向量一个向量就是一列数，这些数是有序排列的。用过次序中的索引，我们可以确定每个单独的数。通常会赋予向量粗体的小写名称。当我们需要明确表示向量中的元素时，我们会将元素排列成一个方括号包围的纵柱：我们可以把向量看作空间中的点，每个元素是不同的坐标轴上的坐标。2-3、矩阵矩阵是二

3-1、为什么使用概率？ 概率论是用于表示不确定性陈述的数学框架，即它是对事物不确定性的度量。在人工智能领域，我们主要以两种方式来使用概率论。首先，概率法则告诉我们AI系统应该如何推理，所以我们设计一些算法来计算或者近似由概率论导出的表达式。其次，我们可以用概率和统计从理论上分析我们提出的AI系统的行为。计算机科学的许多分支处理的对象都是完全确定的实体，但机器学习却大量

信息论是应用数学的一个分支，主要研究的是对一个信号能够提供信息的多少进行量化。如果说概率使我们能够做出不确定性的陈述以及在不确定性存在的情况下进行推理，那信息论就是使我们能够量化概率分布中不确定性的总量。1948年，香农引入信息熵，将其定义为离散随机事件的出现概率。一个系统越是有序，信息熵就越低；反之，一个系统越是混乱，信息熵就越高。所以说，信息熵可以被认为是系统有序化程度的一个度量。