永远飞翔的鸟

30天吃掉那只Tensorflow2

推理性能提升一倍，TensorFlow Feature Column性能优化实践

使用netron对TensorFlow、Pytorch、Keras、PaddlePaddle、MXNet、Caffe、ONNX、UFF、TNN、ncnn、OpenVINO等模型的可视化

tf.Keras模型转换为pb文件

Tensorflow中实现正则化

【人工智能笔记】第二十七节 tensorflow 2.0 中保存模型的方式及注意事项

tflearn学习

from __future__ import absolute_import, division, print_functionimport numpy as npimport pandas as pd#!pip install tensorflow==2.0.0-alpha0import tensorflow as tffrom tensorflow import feature_columnfrom tensorflow import kerasfrom tensorflow.ke.

参考：https://blog.youkuaiyun.com/wc781708249/article/details/78606514https://blog.youkuaiyun.com/wangjian1204/article/details/68928656https://blog.youkuaiyun.com/ljm5000/article/details/84069934使用 TensorFlow Ser...

介绍为什么是多任务学习？当你在思考新事物的时候，他们通常会利用他们以前的经验和获得的知识来加速现在的学习过程。当我们学习一门新语言的时候，尤其是相关的语言时，我们通常会使用我们一级学过的语言知识来加快这一门新语言的学习过程。这个过程也可以用另一种方式来理解 —— 学习一种新的语言可以帮助你更好的理解和说出自己的想法。我们的大脑会同时学习多种不同的任务，无论我们是想将英文翻译成中文，还是...

目录TypeError: float() argument must be a string or a number, not 'Dimension'tensorflow 中的embedding 报错问题解决tensorflow.python.framework.errors_impl.InternalError: Failed to create session.T...

总结：BN和dropout一般不同时使用，如果一定要同时使用，可以将dropout放置于BN后面。1.batch norm、relu、dropout 等的相对顺序Ordering of batch normalization and dropout in TensorFlow?在Batch Normalization: Accelerating Deep Network Train...

1. Tensorflow模型是什么？当你已经训练好一个神经网络之后，你想要保存它，用于以后的使用，部署到产品里面去。所以，Tensorflow模型是什么？Tensorflow模型主要包含网络的设计或者图（graph），和我们已经训练好的网络参数的值。分为三部分：data-00000-of-00001、index、meta；（*）meta file保存了graph结构,包括 Grap...

1. 保存与加载模型参数import tensorflow as tftensorflow的保存和加载是通过tf.train.Saver类实现的, 她的构造函数是def __init__(self, var_list=None, reshape=False, sharded=False, ...

目录一、LogLoss对数损失函数（逻辑回归，交叉熵损失）二、平方损失函数（最小二乘法, Ordinary Least Squares ）三、指数损失函数（Adaboost）四、Hinge损失函数（SVM）五、其它损失函数六、Keras / TensorFlow 中常用 Cost Function 总结七、tf.losses 模块一、LogLoss对数损失函数......

LeNet5论文：http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdfLeNet-5：是Yann LeCun在1998年设计的用于手写数字识别的卷积神经网络，当年美国大多数银行就是用它来识别支票上面的手写数字的，它是早期卷积神经网络中最有代表性的实验系统之一。LenNet-5共有7层（不包括输入层），每层都包含不同数量的训练参数，如下图...

一、常见激活函数总结激活函数:就是在神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。常见的激活函数包括Sigmoid TanHyperbolic(tanh) ReLu softplus softmax ELU PReLU　　这些函数有一个共同的特点那就是他们都是非线性的函数。那么我们为什么要在神经网络中引入非线性的激活函数呢？　　如果不用激励函数（其实...

目录1. 循环神经网络（RNNs)2. 长时期依赖存在的问题3. LSTM 网络3.1 LSTMs 的核心思想3.2 逐步理解 LSTM3.2.1 遗忘门3.2.2 传入门3.2.3 输出门4. LSTM 的变种 GRU5、对比6、应用7、LSTM网络中参数计算前言：其实之前就已经用过 LSTM 了，是在深度学习框架 keras 上直接用的，但是...

一、CNN概述 CNN一个牛逼的地方就在于通过感受野和权值共享减少了神经网络需要训练的参数的个数，所谓权值共享就是同一个Feature Map中神经元权值共享，该Feature Map中的所有神经元使用同一组权值。因此： a. 参数个数: 与神经元的个数无关，只与卷积核的大小及Feature Map的个数相关。 b. 共有多少个连接个数:就与神经元的个数相关了，神......

一、数据集介绍MINST数据集分类1.MNIST数据集MNIST数据集官网下载下来的数据集被分成两部分：60000行的训练数据集（mnist.train）和10000行的测试数据集（mnise.test）每一张图片包含28*28个像素，我们把这一个数组展开成一个向量，长度是28*28=784。因此在MNIST训练数据集中mnist.train.images是一个形状为...

一、TensorBoard网络结构先用pip3show tensorflow-tensorboard查看tensorboard是否已经安装举例：import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data#载入数据集mnist=input_data.read_data_...

scope 命名方法对于一个复杂的 tensorflow 模型会有很多个变量， tf.variable_scope() ：提供了简单的命名空间技术以避免冲突； tf.get_variable()：从同一个变量范围内获取或者创建； 见名知意，tf.Variable() variable 且以大写字母开头，该函数在于定义一个变量；tf.get_variable()：可根据 name ...

一般出现过拟合的情况的原因： 1.网络太复杂，数据量太小。未知数太多，已知的数据太少。 2.当我们使用一个非常复杂的网络，训练较少的数据时，很容易产生过拟合。（比如采用训练20W数据的神经网络训练1W的数据，由于20W的神经元较多，样本的正确率会很高，但在测试集上很容易产生过拟合）二：总结 代码的结构： ...

目录1、交叉熵的定义2、交叉熵的应用：3、在逻辑回归中的应用4.交叉熵和二次代价函数的对比4.1. 二次代价函数的不足4.2. 交叉熵代价函数4.3 对数释然代价函数（log-likelihood cost）：4.4 交叉熵代价函数是如何产生的？5.实战平方损失函数与交叉熵损失函数 适用的情况1、交叉熵的定义在信息论中，交叉熵是表示两个概率分布...

一、TensorFlow基本概念使用图（graphs）来表示计算任务 在被称之为会话（Session）的上下文（context）中执行图 使用tensor表示数据 通过变量（Variable）维护状态 使用feed和fetch可以为任意的操作赋值或者从其中获取数据TensorFlow是一个编程系统，使用图（graphs）来表示计算任务，图（graphs）中的节点称之为op（oper...