闲逸的炫鹰

Activation Functions平滑非线性激活单元（sigmoid,tanh,elu,softolus and softsign）连续但不是处处可导的激活单元（relu,relu6,crelu and relu_x）随机正则化单元（dropout）所有的激活操作都是应用在元素级上的，生成一个和输入张量形状一样的张量ReLU...

卷积操作API普通卷积tf.nn.convlution(input, filter, padding, strides=None, dilation=None, name=None, data_format=None)二维卷积tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None...

降噪自动编码器：权值初始化

TensorFlow中的learning_rate_decay.py文件中查看更多指数衰减def exponential_decay(learning_rate, global_step, decay_steps, decay_rate, staircase=False, name=None)staircase为True时，global_ste...

TF1.0以后的版本：合并汇总合并指定的汇总：tf.summary.merge(inputs, collections=None, name=None)合并所有汇总：merged_summaries = tf.summaries.merge_all(key='summaries')注意：merged_summaries只是一个节点，必须先传入session.run()运行才能获...

在pycharm终端上运行tensorboard --logdir=Intermediate Tutorials/logs后，打开网页后出现错误借鉴https://blog.youkuaiyun.com/qq_26645205/article/details/79424404如果路径中有空格，就会自动结束，所以将文件夹改为Intermediate_Tutorials在运行tensorboard --l...

client 客户端，设计计算蓝图，通过Session的接口与master以及多个worker相连接master 负责所有的worker按照流程执行计算图worker 每一个worker可以与多个硬件设备相连，比如CPU和GPU，并负责管理这些硬件deviceTensorFlow单机模式下，client，master，worker全部在同一台计算机上的同一个进程中分布模式下，允许cli...

变量（Variable）：当训练模型时，用变量来存储和更新参数。变量包含张量（Tensor）存放于内存的缓存区，建模时它们需要被明确地初始化，模型训练后它们必须被存储到磁盘。这些变量可以在之后的模型训练和分析时被加载# 创建一个变量，形状为784*200，标准差0.35，随机正态分布的weights = tf.Variable(tf.random_normal([784, 200], std...

TensorFlow首先要定义各种结构，然后再处理运算看下面的例子：import tensorflow as tfimport numpy as np#创建数据x_data = np.random.rand(100).astype(np.float32) #随机生成100个类型为float32的数字y_data = x_data*0.1 + 0.3 #期望输出，训练的权重和偏差会趋...

摘自莫烦python中关于TensorFlow的讲解传统的参数更新方式如下，传统的参数 W 的更新是把原始的 W 累加上一个负的学习率(learning rate) 乘以校正值 (dx).这种方法可能会让学习过程曲折无比, 看起来像 喝醉的人回家时, 摇摇晃晃走了很多弯路.Stochastic Gradient Descent (SGD) 随机梯度下降法略MomentumMoment...

Loss1. L2损失tf.nn.l2_loss(t, name=None)output = sum(t ** 2) / 22. 交叉熵损失C=−1n∑x[yln⁡a+(1−y)ln⁡(1−a)]C=-\frac{1}{n}\sum_{x}[y\ln a +(1-y)\ln(1-a)]C=−n1​∑x​[ylna+(1−y)ln(1−a)]a是经过sigmoid激活的a=σ(∑jwj...