
TensorFlow
文章平均质量分 77
furuit
机会是留给有实力,物竞天择,优胜劣汰,弱肉强食,适者生存。
展开
-
TensorFlow输出某一层的具体数值
直接看代码,更容易理解import tensorflow as tfimport numpy as npgraph = tf.Graph()with graph.as_default(): x = tf.placeholder(dtype=tf.float32, shape=[None, 50], name='x_input') y = tf.placeholder(dtype=tf.float32, shape=[None, 50], name='y_label')..原创 2020-06-28 15:47:15 · 4926 阅读 · 0 评论 -
tf=1.9 tf.contrib.rnn.core_rnn_cell报错
tf =1.9 tf.nn.rnn_celltf=1.12 改为 tf.contrib.rnn.core_rnn_cell对应的替换即可TF版本升级问题集合:成功解决由于不同的TensorFlow版本之间某些函数的用法引起的错误,可以参考这篇:https://yunyaniu.blog.youkuaiyun.com/article/details/88926446...原创 2019-11-23 18:24:38 · 568 阅读 · 0 评论 -
tf=1.9AttributeError: module 'tensorflow.contrib.rnn.python.ops.rnn_cell' has no attribute '_linear'
我的tf=1.9 的环境,原代码是1.12,结果报错了。from tensorflow.contrib.rnn.python.ops import rnn_celllinear = rnn_cell._linear # pylint: disable=protected-access这个暂时是无解。不过由于这个函数实现的简单的线性求和,因此可以手动在程序中进行修改。from tens...原创 2019-11-23 18:21:20 · 2781 阅读 · 0 评论 -
tf=1.9报错TypeError: Expected int32, got list containing Tensors of type '_Message' instead.
出现这样的错误是因为tensorflow=1.12的版本问题。主要是concat这个函数的位置发生了错误,为了简便,我只取一段代码: # Combine all the pooled features num_filters_total = num_filters * len(filter_sizes) #self.h_pool = tf.concat(poo...原创 2019-11-23 17:08:46 · 387 阅读 · 0 评论 -
TensorFlow函数:tf.sparse_placeholder
tf.sparse_placeholder 函数sparse_placeholder( dtype, shape=None, name=None)定义在:tensorflow/python/ops/array_ops.py。请参阅指南:输入和读取器>占位符操作为稀疏张量插入占位符,该稀疏张量将始终被提供。注意:如果计算,此稀疏张量将产生一个错误...原创 2018-09-24 22:06:11 · 5627 阅读 · 0 评论 -
TensorFlow新旧版本函数接口变化
TensorFlow版本更新太快 了,所以导致一些以前接口函数不一致,会报错。这里总结了一下自己犯的错,以防以后再碰到,也可以给别人参考。首先我的cifar10的代码都是找到当前最新的tf官网给的,所以后面还有新的tf出来改动了的话,可能又会失效了。 1.python3:(unicode error) 'utf-8' codec can't decode刚开始执行的时候就报这个...原创 2018-04-07 22:44:40 · 2564 阅读 · 0 评论 -
2018-06-23 21:08:51.462057: W tensorflow/core/framework/op_kernel.cc:1273] OP_REQUIRES failed
2018-06-23 21:08:51.461822: I tensorflow/core/common_runtime/bfc_allocator.cc:665] Chunk at 0x7fdfb3d6fe00 of size 2013265922018-06-23 21:08:51.461825: I tensorflow/core/common_runtime/bfc_allocator.c...原创 2018-06-26 10:06:08 · 12423 阅读 · 3 评论 -
语义分割网络DeepLab-v3的架构设计思想 下
空洞空间金字塔池化空洞空间金字塔池化(ASPP)的思想是提供具有多尺度信息的模型。为了做到这一点,ASPP 添加了一系列具有不同扩张率的空洞卷积。这些扩张率是被设计用来捕捉大范围语境的。此外,为了增加全局的语境信息,ASPP 还通过全局平均池化(GAP)结合了图像级别的特征。这个版本的 ASPP 包含 4 个并行的操作。它们分别是一个 1×1 的卷积以及三个 3×3 的卷积(扩张率分别是(6,12...原创 2018-06-18 16:07:01 · 1561 阅读 · 0 评论 -
DCGAN 训练+代码总结
How to Train a GAN? Tips and tricks to make GANs work1. Normalize the inputsnormalize the images between -1 and 1Tanh as the last layer of the generator output2: A modified loss functionIn GAN papers,...原创 2018-05-30 19:39:00 · 12680 阅读 · 4 评论 -
实战Google深度学习框架:TensorFlow计算加速
来自:https://www.sohu.com/a/133657084_633698要将深度学习应用到实际问题中,一个非常大的问题在于训练深度学习模型需要的计算量太大。比如Inception-v3模型在单机上训练到78%的正确率需要将近半年的时间 ,这样的训练速度是完全无法应用到实际生产中的。为了加速训练过程,本章将介绍如何通过TensorFlow利用GPU或/和分布式计算进行模型训练。本文节...原创 2018-10-28 22:11:38 · 379 阅读 · 0 评论 -
tf.train.exponential_decay(指数学习率衰减)
参考:https://blog.youkuaiyun.com/u013061183/article/details/79334697 #!/usr/bin/env python3# -*- coding: utf-8 -*- ''' 学习率较大容易搜索震荡(在最优值附近徘徊),学习率较小则收敛速度较慢, 那么可以通过初始定义一个较大的学习率,通过设置decay_rate来缩小学习率,...原创 2018-11-05 10:42:28 · 1157 阅读 · 0 评论 -
TensorFlow指定特定GPU以及占用显存的比例
使用GPU服务器跑TensorFlow,而TensorFlow默认的是占用所有GPU,于是为了不影响其他同学使用GPU,于是就试验和总结了一下TensorFlow指定GPU的方法。。环境系统:Ubuntu14.04TensorFlow:v1.3GPU 8个GTX1080,第一列的0~7的数是GPU的序号===========================一.设置指定GPU===...原创 2018-11-23 15:27:58 · 765 阅读 · 0 评论 -
tensorflow :ValueError: Negative dimension size caused by subtracting 4 from 3 for ....报错
最近在跑TensorFlow项目的时候,报错了:ValueError: Negative dimension size caused by subtracting 4 from 3 for 'disc。。。看到很多人说了原因,都不对,后面发现我自己的数据和原始数据不一样,导致报错。看来TensorFlow报错很笼统啊!大部分人说原因:input_shape=(3,150, 150)是...原创 2019-01-08 10:17:57 · 10521 阅读 · 3 评论 -
ImportError: No module named Keras
有个TensorFlow项目,调用Keras的https://keras.io/zh/layers/advanced-activations/LeakyReLUkeras.layers.LeakyReLU(alpha=0.3)带泄漏的 ReLU。当神经元未激活时,它仍允许赋予一个很小的梯度:f(x) = alpha * x for x < 0,f(x) = x for...原创 2019-05-20 15:35:55 · 11917 阅读 · 0 评论 -
tf.contrib.rnn.static_rnn与tf.nn.dynamic_rnn区别
chunk_size = 256chunk_n = 160rnn_size = 256num_layers = 2n_output_layer = MAX_CAPTCHA*CHAR_SET_LEN # 输出层单层rnn:tf.contrib.rnn.static_rnn:输入:[步长,batch,input]输出:[n_steps,batch,n_hidden]...转载 2019-06-02 17:06:50 · 576 阅读 · 0 评论 -
tensorflow学习之BasicLSTMCell详解
tf.contrib.rnn.BasicLSTMCell继承自:LayerRNNCellAliases:Class tf.contrib.rnn.BasicLSTMCellClass tf.nn.rnn_cell.BasicLSTMCell基础的LSTM循环网络单元,基于http://arxiv.org/abs/1409.2329.实现。将forget_bias(默认值:1)添加到忘...原创 2019-06-02 17:41:58 · 6485 阅读 · 1 评论 -
tensorflow保存数据为.pb格式和加载pb文件
最近接触了tensorflow的object detection API发现里面读取的预先训练模型都是pb格式。谷歌推荐的保存模型的方式是保存模型为 PB 文件,它具有语言独立性,可独立运行,封闭的序列化格式,任何语言都可以解析它,它允许其他语言和深度学习框架读取、继续训练和迁移 TensorFlow 的模型。它的主要使用场景是实现创建模型与使用模型的解耦, 使得前向推导 inference的代码...原创 2018-05-16 21:49:54 · 67898 阅读 · 13 评论 -
from deployment import model_deploy ImportError: No module named deployment
TensorFlow Object Detection API 训练VOC2012数据集来训练时候,from deployment import model_deploy ImportError: No module named deployment 解决办法:import syssys.path.append("..")from slim.deployment import model_de...原创 2018-05-16 17:32:05 · 3127 阅读 · 0 评论 -
Tensorflow Type Error: Value passed to parameter 'shape' has DataType float32 not in list of allowed
Tensorflow Type Error: Value passed to parameter 'shape' has DataType float32 not in list of allowed values: int32, int64 这个其实不是问题,是TensorFlow版本的原因,在TensorFlow1.7会报错,以前的版本无影响。 将其转为int型就行...原创 2018-04-14 22:29:43 · 16453 阅读 · 1 评论 -
tensorflow数据读取
1.我们看tf文档里面介绍的,把mnist或者cifar10图片数据集转为特殊的二进制数据,然后通过placeholder占位符,通过占位符读取数据。但是怎么把图片转为特殊的二进制数据?不清楚,怎么特殊?自己去看mnist官网有介绍格式。2.通过队列读取数据,为什么要用队列方式?因为比如你读取图片要m秒,gpu计算要n秒。每次完成要你n+m秒,gpu每次要等n秒,浪费资源,所以用2队列并行线程,从...原创 2018-05-09 11:32:21 · 700 阅读 · 0 评论 -
tf的tf.nn.conv2d(xxx)和tf.nn.max_pool(xxx)解析
本来打算看博客学习,可是百度上的写的不清晰,所以发现还是看官方API写的好,很详细,相对来说吧。所以以后还是建议大伙去看官方文档,尽管可能有点抵触英语,其实也一般般啦,人家写的也是很常见的英语单词。而且自己也体会到,学Python有些比较偏的,函数知识,还是官方API写的好,比自己百度半天来的快。conv2d( input, #输入数据 filter, #卷积核 strides...原创 2018-04-25 21:08:20 · 588 阅读 · 0 评论 -
tensorflow 的dataset读取tfrecord数据
直接上代码:# -*- coding: utf-8 -*-import tensorflow as tffrom PIL import Image#1 create dataset ,创建数据集input_files=['../tfrecord/traindata-000.tfrecord','../tfrecord/traindata-001.tfrecord']dataset=tf.data....原创 2018-05-10 16:12:01 · 5781 阅读 · 0 评论 -
tensorflow 的输入图片转tfrecord格式
直接上代码:保证可以运行。# -*- coding: utf-8 -*-import os import tensorflow as tf from PIL import Image #saved 图片路径,事先准备好的图片路径cwd = './'#will save文件路径,你的tfrecord文件做好后,将会保存的路径filepath = './'#指定每个tfrecord存放图片个数bes...原创 2018-05-10 11:08:13 · 6097 阅读 · 2 评论 -
tensorflow 的tfrecord格式转为图片
具体来说,我认为数据增强肯定是要把tfrecord转为图片,才能增强嘛。tfrecord格式读取更快,比图片读取。当然有人说我就是喜欢拿原来图片直接数据增强,额,简单直接,能达到目的也行。再一个上篇我实现了image-->tfrecord格式,所以为了验证对否,还是要转回来看看。效果如下:直接上代码:# -*- coding: utf-8 -*-import tensorflow as tf...原创 2018-05-10 12:17:02 · 4871 阅读 · 0 评论 -
TensorFlow训练mnist分析
以前学的caffe,caffe不够灵活,所以开始转学TensorFlow了,然后看着官网的教程,跑了把入门级别的mnist ,10分类。 发现以前学的caffe还是有帮助的,caffe有很多可视化的工具,帮助你看到整个net的详细结果,训练过程还有digis可视话整个训练过程,所以选择caffe入门确实很好。等有了点深层学习的基础理论,选择再转TensorFlow,可能接受能力会强...原创 2018-04-07 12:22:03 · 1604 阅读 · 0 评论 -
tensorboard可视化,详细案例
# -*- coding: utf-8 -*-import tensorflow as tfgraph=tf.Graph()with graph.as_default():#定义了总的训练步数,和输出值的累加求和参数 with tf.name_scope('variables'): global_step=tf.Variable(0,dtype=tf.i...原创 2018-05-06 22:15:29 · 2266 阅读 · 0 评论 -
TensorFlow函数:tf.reduce_prod,sum,mean等其他详解
现在tf1.7好像没有找到这个函数,但是却可以用,哎,谷歌API做的有点不专业啊。我翻了以前的文档里面有关于它的介绍: tf.reduce_prod 函数reduce_prod( input_tensor, axis=None, keep_dims=False, name=None, reduction_indices=None)定义在...原创 2018-05-06 22:31:09 · 4790 阅读 · 0 评论 -
人脸检测:MTCNN学习
Joint Face Detection and Alignment using Multi-task Cascaded Convolutional Networks》论文解读。本文来自于中国科学院深圳先进技术研究院,目前发表在arXiv上,是2016年4月份的文章,算是比较新的文章。论文地址:https://kpzhang93.github.io/MTCNN_face_detecti...原创 2018-05-20 10:34:03 · 2749 阅读 · 0 评论 -
TensorFlow计算图可视化
# -*- coding: utf-8 -*-import tensorflow as tfa=tf.constant(5,name='input_a')b=tf.constant(3,name='input_b')c=tf.multiply(a,b,name='maltiply_c')d=tf.add(a,b,name='add_d')e=tf.add(d,c,name='add_...原创 2018-05-07 15:53:45 · 5485 阅读 · 0 评论 -
tensorbaord可视化原理分析
这篇链接讲了TensorFlow的计算图(graph)的可视化,很简单一行代码搞定。当然要指定图的来源,否则只会写入graph数据在events里面,在tensorboard里面看不到的。tf.summary.FileWriter.它会返回一个FileWriter类。那返回那个FileWriter类还有何用????============我们还想看看其他图形可视化,就要用返回那个FileWrite...原创 2018-05-07 16:36:46 · 393 阅读 · 0 评论 -
TensorFlow报 Couldn't open CUDA library libcupti.so.9.0. LD_LIBRARY_PATH: /usr/local/cuda-9.0/lib64
TensorFlow跑一个程序,突然报下面的错误:I tensorflow/stream_executor/dso_loader.cc:142] Couldn't open CUDA library libcupti.so.9.0. LD_LIBRARY_PATH: /usr/local/cuda-9.0/lib642018-05-08 09:47:01.684585: F ./tensorflo...原创 2018-05-08 10:25:24 · 10679 阅读 · 3 评论 -
tensorboard无法打开,显示异常分析
tensorboard一般有2类错误,第一种一般很少犯,就是在终端上根本没有打开tensorboard,直接在IE上,输入网址。报如下错误:第二种,终端输入了正确的打开tensorboard命令,还是在IE上报如下错误:===============================================以上2种问题的正确方法是:1 .先进入你保存好的event文件目录下:比如我的电脑是...原创 2018-05-08 11:07:52 · 3174 阅读 · 2 评论 -
mnist数据集在tensorboard显示(附完整代码)
直接上代码:# -*- coding: utf-8 -*-import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamax_step=1000learning_rate=0.001dropout=0.9data_dir='../dataset/mnist/'log_dir='./tfboard3...原创 2018-05-08 11:24:15 · 2398 阅读 · 1 评论 -
tensorflow保存、加载模型
最近在学tf,遇到了tf训练时候模型保存的问题,然后网上找了一些资料就copy过来了,下次真正用的时候再分析,先当做笔记记一下吧。使用Tensorflow进行深度学习训练的时候,需要对训练好的网络模型和各种参数进行保存,以便在此基础上继续训练或者使用。介绍这方面的博客有很多,我发现写的最好的是这一篇官方英文介绍:http://cv-tricks.com/tensorflow-tutorial/sa...原创 2018-04-08 10:26:06 · 328 阅读 · 0 评论