深度探寻者

一、TensorBoard：TensorBoard 是 TensorFlow提供的一组可视化工具（a suite of visualization tools），可以帮助开发者方便的理解、调试、优化TensorFlow 程序 。TensorBoard 可以有效 地展示 TensorFlow 在运行过程中的计算图、各种指标随着时间的变化趋势以 及训练中使用 到的图像等信息。它通过将tenso...

一、什么是卷积神经网络？卷积神经网路（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。卷积神经网路由一个或多个卷积层和顶端的全连通层（对应经典的神经网路）组成，同时也包括关联权重和池化层（pooling layer）。这一结构使得卷积神经网路能够利用输入数据的二维结构。与其他深...

一、什么是池化层？池化（Pooling）是卷积神经网络中另一个重要的概念，它实际上是一种形式的降采样。有多种不同形式的非线性池化函数，而其中“最大池化（Max pooling）”是最为常见的。它是将输入的图像划分为若干个矩形区域，对每个子区域输出最大值。直觉上，这种机制能够有效地原因在于，在发现一个特征之后，它的精确位置远不及它和其他特征的相对位置的关系重要。池化层会不断地减小数据的空间大小，...

一、什么是卷积？（Convolutional）卷积是一种有效提取图片特征的方法。一般用一个正方形卷积核，遍历图片 上的每一个像素点。图片与卷积核重合区域内相对应的每一个像素值乘卷积核 内相对应点的权重，然后求和，再加上偏置后(可不加），最后得到输出图片中的一个像素值。在原始的输入上进行特征的提取。特征提取简言之就是，在原始输入上一个小区域一个小区域进行特征的提取。二、卷积的作用：...

点击图片进行查看一、什么是滑动平均？滑动平均法(moving average)又称移动平均法。在简单平均数法基础上，通过顺序逐期增减新旧数据求算移动平均值，借以消除偶然变动因素，找出事物发展趋势，并据此进行预测的方法。简单来说就是 参数变化 时 滑动平均（影子值），跟随参数的变化 进行缓慢追随。滑动平均(exponential moving average)，或者叫做指数加权平均，可以...

一、多层感知器：多层感知器（Multilayer Perceptron,缩写MLP）是一种前向结构的人工神经网络，映射一组输入向量到一组输出向量。MLP可以被看作是一个有向图，由多个的节点层所组成，每一层都全连接到下一层。除了输入节点，每个节点都是一个带有非线性激活函数的神经元（或称处理单元）。一种被称为反向传播算法的监督学习方法常被用来训练MLP。MLP是感知器的推广，克服了感知器不能对线性不...

一、什么是正则化？在机器学习中正则化（英语：regularization）是指为解决适定性问题或过拟合而加入额外信息的过程。在机器学习和逆问题的优化过程中，正则项往往被加在目标函数当中。过拟合：神经网络模型在训练数据集上的准确率较高，在新的数据进行预测或分类时准确率较低，说明模型的泛化能力差。二、正则化的作用是什么？由于损失函数只考虑在训练集上的经验风险，这种做法可能会导致过拟合。...

一、什么是全联接神经网络？全连接神经网络(fully connected neural network)，顾名思义，就是相邻两层之间任意两个节点之间都有连接。全连接神经网络是最为普通的一种模型（比如和CNN相比），由于是全连接，所以会有更多的权重值和连接，因此也意味着占用更多的内存和计算。全连接层的每一个结点都与上一层的所有结点相连，用来把前边提取到的特征综合起来。由于其全相连的特性，一般全...

一、什么是反向传播？反向传播（英语：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。该方法计算对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。 在神经网络上执行梯度下降法的主要算法。该算法会先按前向传播方式计算（并缓存）每个节点的输出值，然后再按反向...

一、神经网络的基本属性：神经网络 的四个基本属性：（1）非线性：非线性是自然界的普遍特征。脑智能是一种非线性现象。人工神经元处于两种不同的激活或抑制状态，它们在数学上是非线性的。由阈值神经元组成的网络具有更好的性能，可以提高网络的容错性和存储容量。（2）无限制性：神经网络通常由多个连接广泛的神经元组成。一个系统的整体行为不仅取决于单个神经元的特性，而且还取决于单元之间的相互作用和互连。通过...

一、基本神经元：神经元模型：用数学公式表示为：f 为激活函数，w为权重，b为偏置。人工神经网络是由神经元构成的。二、什么是激活函数？将线性函数转变为非线性函数，负责将神经元的输入映射到输出端。激活函数（Activation functions）对于人工神经网络模型的学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。在神经元中，输入的 inpu...

一、TensorFlow的编程模型：TensorFlow的命名源于本身的运行原理。Tensor（张量）意味着N维度的数组，Flow （流）意味则 计算图 的计算。Tensorflow 是张量从一端流到另一端的计算过程，也就是Tensorflow的编程模型。模型的运行机制：Tensorflow 的机制属于定义与运行相互分离。从操作层面可以抽象为：模型构建 和 模型运行。名称定...

一、我们要做什么？简单问题：如何让机器学会不通过明确的数学公式，输入任意值，输出他的3倍？我们需要做什么：我们需要从一组看似混乱的数据中总结出 输出 约等于 3 倍 输入 的规律。二、我们要怎么做？一般机器学习分为四个步骤：准备数据搭建模型迭代训练使用模型准备数据阶段我们会收集和任务有关的数据，然后我们会搭建神经网络模型，通过一定的迭代训练让神经网络学习到数据的特征，从而得...

本章强烈建议和 lesson 4 一起学习点击打开一、什么是模型？TensorFlow计算模型 = 计算图计算图的概念：TensorFlow的名字中已经说明了最重要的两个概念——Tensor（张量）和Flow（流）。TensorFlow是通过一个计算图的形式来表达计算的编程系统。TensorFlow中的每一个计算都是计算图上的一个节点，节点之间的边描述了计算之间的依赖关系。如果一个运算...

一、概括：TensorFlow 是一个编程系统, 使用图来表示计算任务. 图中的节点被称之为 op (operation 的缩写). 一个 op 获得 0 个或多个 Tensor, 执行计算, 产生 0 个或多个 Tensor. 每个 Tensor 是一个类型化的多维数组. 例如, 你可以将一小组图像集表示为一个四维浮点数数组, 这四个维度分别是 [batch, height, width, c...

一、什么是人工智能？1、概念：人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞...