JNing

安装TensorFlow有Cuda检查可安装的tensorflow-gpu版本范围：安装：pip install tensorflow-gpu无Cuda检查可安装的tensorflow版本范围：安装：pip install tensorflow

问题一般大家在跑tf时，单个程序往往会占满整块GPU的所有显存。但是实际上，程序很可能并不需要那么大的显存空间。改进方案通过 tf.ConfigProto().gpu_options.allow_growth=True来告诉程序，只需占用实际所需的显存即可：# ---------------- session ----------------config = tf.ConfigProt...

tensor是如何命名的Tensorflow中，tensor的名字是op的名字加上 :0 （如果有多个，这又会有 :1 、:2 。。。。）打印所有nodefor n in tf.get_default_graph().as_graph_def().node: print(n.name)...

net.load vs saver.restore.load() 只能加载.npy文件，.restore() 只能加载 ckpt（checkpoint）文件。net.load 会增加assign节点一定会改图，所以要在 sess.graph.finalize() 之前。 saver.restore 不会改图，可以放到 sess.graph.finalize() 之后。Assign节点只会在...

Tensorflow通过tf.gfile.FastGFile(filename,’rb’).read()读取的图像，是图像的原始数据，还需要经过解码，才能获取图像的数据，数据的格式为RGB(三通道图像)，这一点是与Opencv不同。Tensorflow提供了对jpeg和png格式图片的解码函数，例如“decode_jpeg”对jpeg格式的图片进行解码，使用encode_jpeg编码，将图像...

tf中的op就是node。所有tensorflow操作，都会生成tf node。打印所有node：for n in tf.get_default_graph().as_graph_def().node: print(n.name)train时的graph往往会比test时的graph多很多node（例如：tf预处理操作，甚至包括读tfrecord）。但是output node在tra...

import tensorflow as tffrom tensorflow.python.platform import gfilepb_file = ‘xxx/xxx/xxx.pb’pb_log_dir = ‘xxx/xxx/log/’def show_pb_graph(): graph = tf.get_default_graph() graph_def = ...

获取shapeimport tensorflow as tftensor = tf.placeholder(dtype=tf.float32, shape=[200, 200, 3])print('\n=========== get shape ============')print('tensor : ', tensor)print('tenso...

共同点作用域函数 包括：命名域：tf.name_scope()变量域：tf.variable_scope()对于使用 tf.Variable()方式创建的变量，具有相同的效果。即：都会在变量名称前面，加上域名称。都可用于：变量共享tensorboard画流程图进行可视化封装变量但是，tf.Variable() 每次都会新建变量。如果希望重用（共享）一些变量，必须用到...

feed array1：预设placeholder：self.xxx = tf.placeholder(dtype=tf.float32, shape=[xxx, xxx], name='xxx')2：喂numpy.ndarray格式的矩阵进去：xxx = sess.run(self.xxx, feed_dict={self.xxx: xx_array})feed variable...

法一specified_var_lst = [v for v in tf.global_variables() if "conv_1/" in v.name]print(specified_var_lst)法二for i, v in enumerate(specified_var_lst): print('\n {}/{} {} : \n {} '.format(i, len(sp...

注意事项注意graph一定要用 sess.graph.finalize()，相当于把整个图冻住，使图变为只读的形式，不再允许增加节点。注意循环循环中禁用如下可能会改变图节点的函数： tf.convert_to_tensor() tf.reshape() tf.cast() tf.zeros_like() tf.ones_like() tf.assign() tf.train....

tfrecord，写的时候是一行一行地写的，读的时候是每batch个行地读的。写的时候，通过for循环（例如：img_path, cls_label = img_paths[i], cls_labels[I]）往tf.train.Example里面喂feature。因此，tf.train.Example中的feature喂入的是单行的数据（包括一个img_path、及其对应的encod...

前言这篇博客建立在你已经会使用tensorboard的基础上。如果你还不会记录数据并使用tensorboard，请移步我之前的另一篇博客：tensorflow: tensorboard 探究关于模型文件夹每启动一轮新的训练时，存放生成模型的文件夹就会生成一个独立的子文件夹。 每当开始初始训练时，该子文件夹下会生成一个events文件用于记录开始： 停掉训练时，该子文件夹下会

问题查看 tensorflow api manual 时，看到关于 variable.read_value() 的注解如图：那么在 tensorflow 中，variable的值 与 variable.read_value()的值 到底有何区别？实验代码# coding=utf-8import tensorflow as tf# Create a variable.w = tf.Variable

问题在日常用 tensorflow 进行编程的时候，我经常会纳罕一个问题： 明明 manual里面 白纸黑字地注明了 某个参数项 的 输入 必须是 tensor型，可是 非tensor型 的数据 输入后 却不会报错，依然能正常算出结果。示例比如，合法的输入应该如下：import tensorflow as tfa = tf.constant(10)b = tf.constant(20)c

区别NHWC [batch, in_height, in_width, in_channels]NCHW [batch, in_channels, in_height, in_width]转换NHWC –> NCHW：import tensorflow as tfx = tf.reshape(tf.range(24), [1, 3, 4, 2])out = tf.transpose(x

Variablestf.VariableProperties： Properties Usage Return Example for Print w.device 返回 该variable 所在的 device 非Tensor – w.dtype 返回 该variable 的 DType 非Tensor <dtype: 'float32_ref'>

Tensor Handle Operationstf.get_session_handle返回句柄data 。import tensorflow as tfa = tf.constant(10)b = tf.constant(20)c = tf.multiply(a, b)h = tf.get_session_handle(c)sess = tf.InteractiveSession()_

Script Language Operatorstf.py_func将任意的 python/numpy functions 包装成 TensorFlow op。 tf.py_func (func, inp, Tout, stateful=True, name=None)其中， inp参数项 必须是 list型 ，哪怕 list 里只有一个元素；而 inp参数项 在只有一个元素时可以 不必为

Activation Functionstf.nn.relu# coding=utf-8import tensorflow as tf# 保证每次都是 同一组inputsimport numpy as npi_p = np.random.uniform(-10, 10, size=[3, 3])inputs = tf.placeholder_with_default(input=i_p, s

Arithmetic Operatorstf.add、tf.subtract、tf.multiply、tf.scalar_mul、tf.div、tf.divide、tf.truediv、tf.floordiv、tf.realdiv、tf.truncatediv、tf.floor_div、tf.truncatemod、tf.floormod、tf.mod、tf.cross# coding=utf-8i

Placeholderstf.placeholder插入一个坐等 被feed_dict 的 tensor占位符 。 tf.placeholder (dtype, shape=None, name=None)import tensorflow as tfx = tf.placeholder(dtype=tf.int32)print xwith tf.Session() as sess:

Higher Order Operatorstf.scan从 elems列表 中 依次 扫描读取 元素 放入 公式进行 迭代计算。 tf.scan (fn, elems, initializer=None, parallel_iterations=10, back_prop=True, swap_memory=False, infer_shape=True, name=None)import

Core graph data structurestf.Graph# 程序从一开始就默认有一个 graph 。任何的 tf.Graph() 操作 都是在新建 graph，但都只能在新建的那个 上下文管理器 内发挥作用a = tf.get_default_graph()# 该graph 继承 a.graph，则 该graph 内 default_graph 就为 a.graphwith a.as

法一：循环打印模板for (x, y) in zip(tf.global_variables(), sess.run(tf.global_variables())): print '\n', x, y实例# coding=utf-8import tensorflow as tfdef func(in_put, layer_name, is_training=True): with

Control Flow Operationstf.identity复制tensor tf.identity (input, name=None)import tensorflow as tft = tf.constant(value=[[1, 1, 1], [2, 2, 2]], dtype=tf.int32)a1 = ta2 = tf.identity(t)print a1asser

Introduction具体见 深度学习: Batch Normalization (归一化)Experiment实验一可视化 batch normalization 过程中的 tensor演化（以输入一张[1, 4 , 4, 1]的图片为例）# -*- coding: utf-8 -*-import tensorflow as tfdef func_convolut

Constant Value Tensorstf.zeros tf.zeros (shape, dtype=tf.float32, name=None)tf.zeros_like tf.zeros_like (tensor, dtype=None, name=None, optimize=True)tf.ones tf.ones (shape, dtype=tf.float32, n

Layers (contrib)Higher level ops for building neural network layerstf.contrib.layers.batch_norm  添加一个 Batch Normalization 层 。tf.contrib.layers.batch_norm ( inputs, ##### decay=0.999, ####

方法一：模板：具体示例：方法二：模板：# -*- coding: utf-8 -*-import tensorflow as tffrom tensorflow.python.ops import variable_scope as vs ### 改动部分 ###def func(..., reuse=False): ### 改动部分 ### if reuse:

实验五：探究 batch normalization 过程中的 decay 参数项 在 train 和 test 过程中的不同作用。  在 decay=0 （即移动偏移无损失）时：import tensorflow as tfdef func(in_put, layer_name, is_training=True): with tf.variable_scope(layer_name,

定义 Tensor Transformations - Shapes and Shaping: TensorFlow provides several operations that you can use to determine the shape of a tensor and change the shape of a tensor. tensorflow提供了一些操作，让用户可以定义

API官方定义From tf.nn.l2_loss： tf.nn.l2_loss l2_loss( t, name=None ) Defined in tensorflow/python/ops/gen_nn_ops.py. See the guide: Neural Network > Losses L2 Loss. Computes half the

激活函数概念From TensorFlow - Activation_Functions：在神经网络中，我们有很多的 非线性函数 来作为 激活函数连续 、平滑 tf.sigmoid(x, name = None) == 1 / (1 + exp(-x))import numpy as npimport tensorflow as tfsess = tf.Session()bn

总结  对简单应用的情形（如单元测试），用以下格式可以得到更简洁的代码：with tf.Session(): c.eval()  如果你的代码要处理多个graph和 session，更直白的方式可能是显式调用Session.run()：sess = tf.Session()sess.run(c)实验代码>>> c = tf.constant(5.0)>>> with tf.Sessio

Annotations tensorflow api numpy api 建立全零张量 tf.zeros(shape=(H, W), dtype=tf.float32) np.zeros(shape=(H, W), dtype=np.float32) 建立全一张量 tf.ones(shape=(H, W), dtype=tf.float32) np.ones(shape

Source code &amp; ModelsTensorFlow组织的GithubTensorFlow源码源码永远是学习的重中之重。TensorFlow Model Zoo - 预训练模型该存储库包含在TensorFlow中实现的机器学习模型。因为这些型号仅仅与TensorFlow 1.0或更高版本兼容。如果TensorFlow 是0.x版本，需要upgdade tensorfl

TensorFlow 1.0 版本 API 变动汇总自动将代码移植到 1.0 版本：tf_upgrade.py --infile foo.py --outfile foo-upgraded.py

参考这个开源项目：Convert Caffe models to TensorFlow安装好所需依赖后，具体执行起来只需要一句命令行：convert.py