tensorflow学习笔记（四）：激活函数

最新推荐文章于 2025-07-04 08:07:07 发布

u012436149

最新推荐文章于 2025-07-04 08:07:07 发布

阅读量2.5w

点赞数 3

CC 4.0 BY-SA版权

分类专栏： tensorflow tensorflow学习笔记

本文链接：https://blog.youkuaiyun.com/u012436149/article/details/52874912

tensorflow 同时被 2 个专栏收录

69 篇文章

订阅专栏

tensorflow学习笔记

54 篇文章

订阅专栏

本文详细介绍了TensorFlow中常用的激活函数及其使用方法，包括ReLU、Sigmoid、Tanh等，并解释了如何通过Bias Add和Dropout调整网络表现。

tesorflow中的激活函数

所有激活函数输入和输出的维度是一样的

tf.nn.relu()
tf.nn.sigmoid()
tf.nn.tanh()
tf.nn.elu()
tf.nn.bias_add()
tf.nn.crelu()
tf.nn.relu6()
tf.nn.softplus()
tf.nn.softsign()
tf.nn.dropout()
tf.nn.relu_layer(x, weights, biases,name=None)
def relu_layer(x, weights, biases, name=None):
  """Computes Relu(x * weight + biases).
  Args:
    x: a 2D tensor.  Dimensions typically: batch, in_units
    weights: a 2D tensor.  Dimensions typically: in_units, out_units
    biases: a 1D tensor.  Dimensions: out_units
    name: A name for the operation (optional).  If not specified
      "nn_relu_layer" is used.
  Returns:
    A 2-D Tensor computing relu(matmul(x, weights) + biases).
    Dimensions typically: batch, out_units.
  """