David's Notes

1 TensorFlow 环境搭建TensorFlow 依赖的两个最主要的工具包 —— Protocol Buffer 和 Bazel。1.1 Protocol Buffer Protocol Buffer 是谷歌开发的处理结构化数据的工具。如何将结构化的数据序列化，并从序列化之后的数据流中还原出原来的机构化数据，这就是 Protocol Buffer 解决的主要问题。...

1 TensorFlow 基础 TensorFlow 是单词 Tensor 和 Flow 的合成。Tensor 是张量，可以认为是多维数组。一个数字叫做标量（Scalar），一维数组叫做向量（Vector），二维及以上数组叫做矩阵（Matrix），Tensor 可认为是她们的统称。Flow 是流，表示张量之间的计算转化过程，一个节点通过运算流入另一个节点。1.1 计算图1...

1 深度神经网络 深度学习具有两个重要的性质：非线性和多层变换。1.1 非线性操作 —— 激活函数1.1.1 线性模型 线性模型可以表示为： y=∑(wi⋅xi+bi)(1)(1)y=∑(wi⋅xi+bi)\begin{align}y = \sum \left( w_i \cdot x_i + b_i \right)\end{align} ...

使用 LSTM 计算语言模型的复杂度获取数据wget http://www.fit.vutbr.cz/~imikolov/rnnlm/simple-examples.tgz源代码import numpy as npimport tensorflow as tfimport readerimport osos.environ['CUDA_VISIBLE_DEVI...

TensorFlow 学习笔记 - 避坑指南 TensorFlow 实现过程中会遇到各种坑，本篇记录遇到的一些坑，笔记以指南。TensorFlow 实现 Deep NN# 建议使用如下方式，这是 TensorFlow 官方建议的方式：https://www.tensorflow.org/tutorials/recurrentdef lstm_cell(): return...

TensorFlow 学习笔记 - Session Session 拥有并管理 TensorFlow 程序运行时的所有资源。通常，会结合 with 语句使用，在计算完成之后，自动释放系统资源，除非手动关闭。 - 使用tf.Session.run() 获取计算结果：tf.Session.run(result)""" 手动关闭 session """sess = tf.Sess...

TensorFlow 学习笔记 - 几种 LSTM 对比tf.nn.rnn_cell.BasicLSTMCelltf.nn.static_rnn tf.nn.static_rnntf.nn.dynamic_rnntf.contrib.cudnn_rnntf.contrib.rnn.LSTMBlockCelltf.contrib.rnn.LSTMBlockFusedCelltf....

本例子很好的定义了一个经典的 TensorFlow 学习示例 读者可以好好体悟其中的流程与经典做法，建议熟练掌握。该网络是一个三层的全连接神经网络，定义了基本的 NN 学习流程。mnist_inference.pyimport tensorflow as tfINPUT_NODE = 784OUTPUT_NODE = 10LAYER1_NODE = 500d...