RNN中输出端的sample采样

最新推荐文章于 2025-01-16 12:09:55 发布

jasonzzj

最新推荐文章于 2025-01-16 12:09:55 发布

阅读量2.7k

点赞数 1

分类专栏：机器学习深度学习 Python TensorFlow 文章标签： theano sampling rnn

本文链接：https://blog.youkuaiyun.com/jasonzzj/article/details/60329663

版权

在Theano中，为sequence to sequence模型实现sample功能，需要特定的函数。当尝试在Tensorflow中应用时，由于Tensor与numpy数组的不兼容会导致错误。解决方法包括转换数据类型或利用特定函数进行采样操作。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在Theano中，有如下定义的函数可供sequence to sequence 模型来使用sample功能：

def sample(preds, temperature=1.0):
    # function to sample an index from a probability array
    # temperature = (0, 1.0]
    # https://github.com/fchollet/keras/blob/master/examples/lstm_text_generation.py
    # https://github.com/mosessoh/CNN-LSTM-Caption-Generator/blob/master/utils.py
    # https://docs.scipy.org/doc/numpy/reference/generated/numpy.random.multinomial.html
    preds = tf.log(preds) / temperature
    exp_preds = tf.exp(preds)
    preds = exp_preds / np.sum(exp_preds)
    probas = np.random.multinomial(1, preds, 1)
    return np.argmax(probas)

注意，在Tensorflow中使用的时候，会因为Tensor与numpy Array之别而报错，解决办法如下：

一方面，可以转换Tensor 与numpy array的格式，用上面的函数来实现采样;

另一方面，可以使用