
TensorFlow
文章平均质量分 93
小孟Tec
为什么我的眼里常含泪水?
因为我对这土地爱得深沉……
展开
-
TensorFlow:graph、session和op
文章目录关于graph关于子图:subgraph关于session关于op一个特殊的op: tf.placeholder()global_step =tf.train.get_or_create_global_step()作用Referencegraph即tf.Graph(),session即tf.Session(),很多人经常将两者混淆,其实二者完全不是同一个东西。graph定义了计算方式,是一些加减乘除等运算的组合,类似于一个函数。它本身不会进行任何计算,也不保存任何中间计算结果。session原创 2021-08-30 21:27:29 · 466 阅读 · 0 评论 -
layer-normalization 实现 & tf.contrib.layers.layer_norm
文章目录方差(Variance)和标准差(Standard Deviation)方差标准差Layer Normalization 计算方法python 手工实现TensorFlow中的计算方式验证两种方式Reference方差(Variance)和标准差(Standard Deviation)方差方差是总体所有变量值与其算术平均数偏差平方的平均值,它表示了一组数据分布的离散程度的平均值。标准差是方差的平方根,它表示了一组数据关于平均数的平均离散程度。方差在概率论和统计学中有不同的定义,概率论原创 2021-07-13 01:25:38 · 6815 阅读 · 4 评论 -
TensorFlow - 优化器函数Optimizer
文章目录常用的optimizer类1. class tf.train.Optimizerclass tf.train.Optimizer 用法注意事项:在使用它们之前处理梯度Reference因为大多数机器学习任务就是最小化损失,在损失定义的情况下,后面的工作就交给了优化器。因为深度学习常见的是对于梯度的优化,也就是说,优化器最后其实就是各种对于梯度下降算法的优化。常用的optimizer类OptimizerGradientDescentOptimizerAdagradOptimizerAda原创 2021-07-08 21:27:24 · 1144 阅读 · 3 评论 -
tensorflow notes
文章目录tf.global_variables_initializer()tf.assign() 用法tf.global_variables_initializer()初始化参数旧版本的tf.initialize_all_variables() 已弃用#-*-coding:UTF-8-*-import tensorflow as tfstate = tf.Variable(0 , name='counter')one = tf.constant(1)new_value = tf.ad原创 2021-06-14 18:00:44 · 234 阅读 · 0 评论 -
交叉熵损失函数,softmax与数值稳定性
文章目录1.交叉熵损失函数1.1 交叉熵损失函数的数学原理1.2 交叉熵损失函数的直观理解2. softmax与数值稳定性2.1 exe^xex数值溢出问题2.2 在TensorFlow 中,自定义交叉熵损失函数 - 不推荐2.3 `tf.nn.softmax_cross_entropy_with_logits` 用法Reference1.交叉熵损失函数说起交叉熵损失函数「Cross Entropy Loss」,脑海中立马浮现出它的公式:我们已经对这个交叉熵函数非常熟悉,大多数情况下都是直接拿来原创 2021-06-13 18:18:42 · 1190 阅读 · 0 评论 -
tensorflow - tf.gfile()文件操作类方法
文章目录简介一、gfile模块是什么二、gfile API介绍2-1)tf.gfile.Copy(oldpath, newpath, overwrite=False)2-2)tf.gfile.MkDir(dirname)2-3)tf.gfile.Remove(filename)2-4)tf.gfile.DeleteRecursively(dirname)2-5)tf.gfile.Exists(filename)2-6)tf.gfile.Glob(filename)2-7)tf.gfile.IsDirecto原创 2021-01-12 17:00:19 · 1141 阅读 · 0 评论 -
TensorFlow 中的 .ckpt文件
文章目录tf.train.Saver()各文件作用python中恢复模型Referencetf.train.Saver()使用 tf.train.Saver() 保存参数通常会生成以下文件各文件作用.ckpt文件:是旧版本的输出saver.save(sess),相当于你的.ckpt-data“checkpoint”:文件仅用于告知某些TF函数,这是最新的检查点文件。.ckpt-meta:包含元图,即计算图的结构,没有变量的值(基本上你可以在tensorboard / graph中看到)。原创 2020-12-21 16:28:22 · 3159 阅读 · 0 评论 -
TensorFlow 特性
文章目录训练流程部署流程Conda 常用命令训练流程数据的处理 :使用 tf.data 和 TFRecord 可以高效地构建和预处理数据集,构建训练数据流。同时可以使用 TensorFlow Datasets 快速载入常用的公开数据集。模型的建立与调试 :使用即时执行模式和著名的神经网络高层 API 框架 Keras,结合可视化工具 TensorBoard,简易、快速地建立和调试模型。也可以通过 TensorFlow Hub 方便地载入已有的成熟模型。模型的训练 :支持在 CPU、GPU原创 2020-11-11 17:33:49 · 459 阅读 · 0 评论