- 博客(31)
- 收藏
- 关注
RSS订阅转载 深度学习利器：TensorFlow在智能终端中的应用
前言深度学习在图像处理、语音识别、自然语言处理领域的应用取得了巨大成功，但是它通常在功能强大的服务器端进行运算。如果智能手机通过网络远程连接服务器，也可以利用深度学习技术，但这样可能会很慢，而且只有在设备处于良好的网络连接环境下才行，这就需要把深度学习模型迁移到智能终端。由于智能终端CPU和内存资源有限，为了提高运算性能和内存利用率，需要对服务器端的模型进行量化处理并支持低精度算法。Ten...
2019-02-06 18:33:47
401
转载 TensorFlow移动端应用原理
TensorFlow对Android、iOS、树莓派都提供移动端支持。移动端应用原理。移动端、嵌入式设备应用深度学习方式，一模型运行在云端服务器，向服务器发送请求，接收服务器响应；二在本地运行模型，PC训练模型，放到移动端预测。向服务端请求数据可行性差，移动端资源稀缺。本地运行实时性更好。加速计算，内存空间和速度优化。精简模型，节省内存空间，加快计算速度。加快框架执行速度，优化模型复杂度和每步...
2019-02-06 18:25:23
382
转载 自然聊天机器人
智能聊天机器人的商业价值有两个方面：通过和用户的“语音机器人”的对话，将用户引导到对应的服务上面。作为今后智能硬件和智能家居的嵌入式应用经历了3代不同的技术：基于特征工程。大量的逻辑判断基于检索库基于深度学习。采用seq2seq+Attention模型，经过大量的训练，根据输入生成相应的输出。 seq2seq模型是一个翻译模型，主要是把一个序列翻译成另一个序列。它的基...
2019-02-06 17:50:10
679
转载 英文数字语音识别
数据集 http://pannous.net/spoken_numbers.tar，构建LSTM循环神经网络，用TFLearn第三方库来训练 本节代码参本 https://github.com/pannous/tensorflow-speech-recognition/blob/master/speech2text-tflearn.py 定义输入数据并预处理数据：...
2019-02-06 17:24:59
4643
3
转载 人脸识别笔记
人脸识别，基于人脸部特征信息识别身份的生物识别技术。摄像机、摄像头采集人脸图像或视频流，自动检测、跟踪图像中人脸，做脸部相关技术处理，人脸检测、人脸关键点检测、人脸验证等。《麻省理工科技评论》(MIT Technology Review)，2017年全球十大突破性技术榜单，支付宝“刷脸支付”(Paying with Your Face)入围。人脸识别优势，非强制性(采集方式不容易被察觉，被识别...
2019-02-06 12:40:46
535
转载 人脸识别（Facenet）
人脸识别是目前应用非常广泛的一种生物识别技术，与其他生物识别技术（指纹识别，掌形识别，眼虹膜识别和声音识别）相比，人脸识别具有以下优势：其他每种生物识别方法都需要一些人的配合动作，而人脸识别不需要被动配合，可以自动用在隐蔽的场合，如公安部门监控行动；当记录一个企图登录的人的生物记录时，只有人脸能更直观，更方便的核查该人的身份；由于与传统的生物识别技术相比，人脸识别具有更为简便、准确、经...
2019-02-06 11:10:00
1054
转载 TensorFlow程序结构
在任何计算机语言中学习的第一个程序是都是 Hello world，本教程中也将遵守这个惯例，从程序 Hello world 开始。上一节进行 TensorFlow 安装验证的代码如下： 下面一起看一下这段简单的代码：导入tensorflow，这将导入 TensorFlow 库，并允许使用其精彩的功能： import tensorflow as if 由于要打印的信息是...
2019-02-06 10:15:18
362
转载 TensorFlow安装和下载
本节将介绍在不同的操作系统（Linux、Mac和Windows）上如何全新安装 TensorFlow 1.3。首先了解安装 TensorFlow 的必要要求，TensorFlow 可以在 Ubuntu 和 macOS 上基于 native pip、Anaconda、virtualenv 和 Docker 进行安装，对于 Windows 操作系统，可以使用 native pip 或 Anacond...
2019-02-06 10:12:18
1190
转载 用RNN做MNIST分类
1.前言RNN常用作NLP中，像图片生成文字、自动生成古诗词等。这篇文章用RNN做MNIST手写数字识别，分类效果虽然没有CNN效果好，但准确率也能够达到96%。2.环境Mac os系统，python：3.5，Keras3.代码实现import numpy as npnp.random.seed(1337) from keras.datasets import...
2019-02-05 19:19:10
566
转载 MNIST的四种写法
MNIST是什么MNIST是一组经过预处理的手写数字图片数据集，它为机器学习的初学者提供了一个练手的机会，可以在真实的数据上用学到的算法来解决问题。由于很多的机器学习教程都以MNIST作为入门项目，因此它也被称作是机器学习领域的“hello world”。MNIST中每个样本都是一张长28、宽28的灰度图片，其中包含一个0-9的数字。我们需要做的，就是根据训练数据建立一个模型用来识别输入图...
2019-02-05 19:07:55
3236
转载 TensorFlow超参数及其调整
正如你目前所看到的，神经网络的性能非常依赖超参数。因此，了解这些参数如何影响网络变得至关重要。常见的超参数是学习率、正则化器、正则化系数、隐藏层的维数、初始权重值，甚至选择什么样的优化器优化权重和偏置。超参数调整过程调整超参数的第一步是构建模型。与之前一样，在 TensorFlow 中构建模型。 添加一种方法将模型保存在 model_file 中。在 TensorFlow 中，可以使用...
2019-02-05 18:15:22
3677
1
转载 tensorflow笔记-简单模型训练，保存与提取
训练模型和保存模型代码import tensorflow as tfimport numpy as npx_data = np.random.rand(100)y_data = x_data*2+1x = tf.placeholder(tf.float32)y = tf.placeholder(tf.float32)w = tf.Variable(0.0)b = tf.V...
2019-02-05 18:00:27
313
转载 Tensorflow生成数据的一些方法
正常情况下，使用tf.initialize_all_variables()初始化变量，在完全构建好模型并加载之后才运行这个操作。生成数据的主要方法如下： 1）如果需要利用已经初始化的参数给其他变量赋值,TF的变量有个initialized_value()属性，就是初始化的值，使用方法如下：# 原始的变量 weights = tf.Variable(tf.random_normal([7...
2019-02-05 13:09:38
528
1
转载 TensorFlow加载数据的方式
tensorflow作为符号编程框架，需要先构建数据流图，再读取数据，然后再进行训练。tensorflow提供了以下三种方式来加载数据：预加载数据(preloaded data)：在tensorflow图中定义常量或变量来保存所有数据填充数据(feeding)：Python产生数据，再把数据填充到后端从文件中读取数据(reading from file)：通过队列管理器从文件中读取数据下...
2019-02-05 12:43:29
305
转载 一文学会用 Tensorflow 搭建神经网络
本文是学习这个视频课程系列的笔记，课程链接是 youtube 上的，讲的很好，浅显易懂，入门首选， 而且在github有代码，想看视频的也可以去他的优酷里的频道找。Tensorflow 官网神经网络是一种数学模型，是存在于计算机的神经系统，由大量的神经元相连接并进行计算，在外界信息的基础上，改变内部的结构，常用来对输入和输出间复杂的关系进行建模。神经网络由大量的节点和之间的联系构成...
2019-02-04 16:23:02
259
转载 深度学习框架的比较（MXNet, Caffe, TensorFlow, Torch, Theano)
1. 基本概念1.1 MXNet相关概念 深度学习目标：如何方便的表述神经网络，以及如何快速训练得到模型 CNN(卷积层)：表达空间相关性(学表示) RNN/LSTM：表达时间连续性(建模时序信号) 命令式编程(imperative programming)：嵌入的较浅，其中每个语句都按原来的意思执行，如numpy和Torch就是属于这种 ...
2019-02-04 12:57:07
454
转载 神经网络的keras实现
keras是构建在tensorflow基础上的python第三方库，专门用于神经网络的构建与计算，同时还集成了scikit-learn库，使得可以在神经网络的构建中运用机器学习的方法。现在就用keras来构建之前构建过的神经网络。 实现代码首先导入所需要的包：from keras.models import Sequentialfrom keras.layers import De...
2019-02-04 12:13:27
435
转载 利用 TFLearn 快速搭建经典深度学习模型
使用 TensorFlow 一个最大的好处是可以用各种运算符（Ops）灵活构建计算图，同时可以支持自定义运算符（见本公众号早期文章《TensorFlow 增加自定义运算符》）。由于运算符的粒度较小，在构建深度学习模型时，代码写出来比较冗长，比如实现卷积层： # 经典模型 AlexNet 【1】第一个卷积层的 TensorFlow 实现# 输入：# data 维度：[8, 2...
2019-02-04 11:45:54
385
转载 tensorboard同时显示训练数据和测试数据的曲线
学着用tensorboard在一个模型里面有训练模型和测试模型的损失函数曲线对比，上网找了好多，但是还都是一个曲线，即自己画的是这样的但是想要的是这样的：到底应该怎么样呢？简单操作：tensorboard --logdir=run1:"/home/.../summary",run2:"/home/.../summary" 其实只要在终端同时运行几个events即可，eve...
2019-02-04 10:59:56
1848
转载 Tensorboard教程：高维向量可视化
PROJECTOR用于将高维向量进行可视化，通过PCA，T-SNE等方法将高维向量投影到三维坐标系。具体操作和解释见代码和注释：import tensorflow as tfimport mnist_inferenceimport osfrom tensorflow.contrib.tensorboard.plugins import projectorfrom tensorf...
2019-02-04 10:35:41
2279
转载 TensorBoard讲解
TensorBoard简介 TensorBoard是TensorFlow自带的一个强大的可视化工具，也是一个Web应用程序套件。TensorBoard目前支持7种可视化，Scalars,Images,Audio,Graph...
2019-02-03 16:34:34
1025
转载 TensorBoard可视化学习
TensorBoard简介Tensorflow发布包中提供了TensorBoard，用于展示Tensorflow任务在计算过程中的Graph、定量指标图以及附加数据。大致的效果如下所示， TensorBoard工作机制TensorBoard 通过读取 TensorFlow 的事件文件来运行。TensorFlow 的事件文件包括了你会在 TensorFlow 运行中涉及到的主要数据。...
2019-02-03 16:23:15
313
转载 TensorFlow常用激活函数及其特点和用法（6种）详解
每个神经元都必须有激活函数。它们为神经元提供了模拟复杂非线性数据集所必需的非线性特性。该函数取所有输入的加权和，进而生成一个输出信号。你可以把它看作输入和输出之间的转换。使用适当的激活函数，可以将输出值限定在一个定义的范围内。如果 xi 是第 j 个输入，Wj 是连接第 j 个输入到神经元的权重，b 是神经元的偏置，神经元的输出（在生物学术语中，神经元的激活）由激活函数决定，并且在数学上表示如下...
2019-02-03 15:55:13
2229
转载 TensorFlow实现Batch Normalization
批标准化，是Sergey Ioffe和Christian Szegedy在2015年3月的论文BN2015中提出的一种简单、高效的改善神经网络性能的方法。论文BN2015中，Ioffe和Szegedy指出批标准化不仅能应用更高的学习率、具有正则化器的效用，还能将训练速度提升14倍之多。本文将基于TensorFlow来实现批标准化。问题的提出批标准化所要解决的问题是：模型参数在学习阶段的变化...
2019-02-02 18:22:12
378
转载 tensorflow中的name_scope, variable_scope
在训练深度网络时，为了减少需要训练参数的个数（比如LSTM模型），或者是多机多卡并行化训练大数据、大模型等情况时，往往就需要共享变量。另外一方面是当一个深度学习模型变得非常复杂的时候，往往存在大量的变量和操作，如何避免这些变量名和操作名的唯一不重复，同时维护一个条理清晰的graph非常重要。因此，tensorflow中用tf.Variable(), tf.get_variable, tf.Var...
2019-02-02 18:05:27
166
转载 TensorFlow常量、变量和占位符
最基本的 TensorFlow 提供了一个库来定义和执行对张量的各种数学运算。张量，可理解为一个 n 维矩阵，所有类型的数据，包括标量、矢量和矩阵等都是特殊类型的张量。 TensorFlow 支持以下三种类型的张量：常量：常量是其值不能改变的张量。 变量：当一个量在会话中的值需要更新时，使用变量来表示。例如，在神经网络中，权重需要在训练期间更新，可以通过将权重声明为变量来实现。变量...
2019-02-02 17:31:13
431
转载 张量，边，节点，图，会话，设备，变量
TensorFlow 是用数据流图做计算的，因此我们先创建一个数据流图（也称为网络结构图），如图 下图 所示，看一下数据流图中的各个要素。 图 讲述了 TensorFlow 的运行原理。图中包含输入（input）、塑形（reshape）、Relu 层（Relulayer）、Logit 层（Logit layer）、Softmax、交叉熵（cross entropy）、梯度（gradient...
2019-02-02 17:10:50
527
转载 TensorFlow架构与设计：概述
开源书籍关于TensorFlow的内核详细原理与运行机制，请查阅我的开源技术书籍：TensorFlow内核剖析。TensorFlow是什么？TensorFlow基于数据流图，用于大规模分布式数值计算的开源框架。节点表示某种抽象的计算，边表示节点之间相互联系的张量。计算图实例TensorFlow支持各种异构的平台，支持多CPU/GPU，服务器，移动设备，具有良好的跨平台的特性...
2019-02-02 16:26:33
254
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人