sigmoid,softmax,tanh简单实现

最新推荐文章于 2025-07-01 12:35:34 发布

原创最新推荐文章于 2025-07-01 12:35:34 发布 · 419 阅读

0 ·

CC 4.0 BY-SA版权

本文详细介绍了TensorFlow中常用的三种激活函数：sigmoid、softmax和tanh。sigmoid函数将输入值压缩到0到1之间，常用于二分类问题；softmax函数则将每个类别概率规范化到0到1且总和为1，适用于多分类问题；tanh函数的输出范围在-1到1之间，能提供更大的动态范围。通过实例代码展示了它们的使用方法和输出效果。

sigmoid,softmax,tanh

simoid函数将值缩放为[0,1]

import tensorflow as tf
a = tf.linspace(-6.,6.,13) #[-6,6]等分成13个数，dtype=float32
x = tf.sigmoid(a)
with tf.Session() as sess:
    init = tf.initialize_all_variables()#数据初始化
    sess.run(init)
    print(sess.run(x))

softmax函数将数值缩放为[0，1]并且所有数据的和为1

import tensorflow as tf
logits = tf.random_uniform([1,10],minval=-2,maxval=2)
prob = tf.nn.softmax(logits,axis=1)
prob_sum = tf.reduce_sum(prob,axis=1)
with tf.Session() as sess:
    init = tf.initialize_all_variables()#数据初始化
    sess.run(init)
    print(sess.run(prob))
    print(sess.run(prob_sum))

tanh函数将数值缩放为[-1，1]

import tensorflow as tf
a = tf.constant([-2.,-1,0.,1.0, 2.0])
x = tf.tanh(a)
with tf.Session() as sess:
    init = tf.initialize_all_variables()#数据初始化
    sess.run(init)
    print(sess.run(x))