Pilgrim

注释已经很详细了# -*- coding: utf-8 -*-# @author: Zafedom# @date: 17/5/14 下午9:17'''练习tf使用一层的网络实现xor这个代码很拼运气，不见得结果好文档参考：https://yjango.gitbooks.io/superorganism/content/dai_ma_yan_shi.html代码参考：

https://www.tensorflow.org/api_docs/python/tf/random/fixed_unigram_candidate_sampler上面链接是官网解释，看了一会儿感觉没看懂 跑了几个列子有点懂了。本文结合https://www.w3cschool.cn/tensorflow_python/tf_nn_fixed_unigram_candidate_...

a = tf.constant([[1, 2, 3], [4, 5, 6], [7, 8, 9]])inds = tf.constant([[0, 2], [2, 1], [1, 1]])#目的是实现 从[1,2,3]获取index为[0,2]的值也就是[1,3]作为第一行，从[4,5,6]获取index为[2,1]的值也就是[6,5]作为第二行, 从[7,8,9]获取index[1,...

转载自：http://blog.youkuaiyun.com/u012436149/article/details/53696970Variabletensorflow中有两个关于variable的op，tf.Variable()与tf.get_variable()下面介绍这两个的区别tf.Variable与tf.get_variable()tf.Variable(initial_va

不知道为什么跑dynamic rnn的时候报错上面，之前 应该是被共用机器的人安装了tf 1.4然后我退回到1.2然后跑其他没问题，但是rnn的时候出问题了。然后找到 https://stackoverflow.com/questions/43833081/attributeerror-module-object-has-no-attribute-computation解决办法：Need

1、交叉熵计算公式http://blog.youkuaiyun.com/rtygbwwwerr/article/details/50778098摘自上面链接p:真实样本分布，服从参数为p的0-1分布，即X∼B(1,p) q:待估计的模型，服从参数为q的0-1分布，即X∼B(1,q) 两者的交叉熵为： CEH(p,q) =−∑x∈p(x)logq(x) =−[Pp(x=1)

def test4(): # x = tf.Variable(tf.truncated_normal([1]), name='x') x = tf.Variable([1.], name='x') goal = (x - 2) * (x - 2) optimizer = tf.train.GradientDescentOptimizer(learning_rate=

文档在这里 https://www.tensorflow.org/programmers_guide/saved_model存储模型# Add ops to save and restore all the variables.saver = tf.train.Saver()# Later, launch the model, initialize the variables

最近写的网络，然后感觉是没问题的，但是训练过程中，有时候会所有参数都变成nan第一次出现这个问题，我用的正态分布初始化，默认方差1，然后改成0.01好了 当时猜测是梯度爆炸了第二次出现这个问题，是我迭代了很多轮之后忽然某一轮出现了这个问题，初始化方式uniform初始化，初始参数范围 [-1/hidden_dim, 1/hidden_dim] , lr 5/10w解决方法再这里看到的：

通过get_variable（"v"）函数获取变量时，如果tf.variable_scope的reuse参数是True， 如果v是已经被创建过了就直接返回，但是如果没有创建会报错。如果设置成False，变量v如果没有被创建过就直接创建，如果创建过就报错。AUTO_REUSE的好处就是实现：如果创建过就返回，没有创建过就创建一个新的变量返回AUTO_REUSE.__doc__ = ""...