RNN中输出端的sample采样

最新推荐文章于 2025-11-02 20:05:28 发布

原创

最新推荐文章于 2025-11-02 20:05:28 发布 · 2.7k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#theano #sampling #rnn

在Theano中，为sequence to sequence模型实现sample功能，需要特定的函数。当尝试在Tensorflow中应用时，由于Tensor与numpy数组的不兼容会导致错误。解决方法包括转换数据类型或利用特定函数进行采样操作。

在Theano中，有如下定义的函数可供sequence to sequence 模型来使用sample功能：

def sample(preds, temperature=1.0):
    # function to sample an index from a probability array
    # temperature = (0, 1.0]
    # https://github.com/fchollet/keras/blob/master/examples/lstm_text_generation.py
    # https://github.com/mosessoh/CNN-LSTM-Caption-Generator/blob/master/utils.py
    # https://docs.scipy.org/doc/numpy/reference/generated/numpy.random.multinomial.html
    preds = tf.log(preds) / temperature
    exp_preds = tf.exp(preds)
    preds = exp_preds / np.sum(exp_preds)
    probas = np.random.multinomial(1, preds, 1)
    return np.argmax(probas)

注意，在Tensorflow中使用的时候，会因为Tensor与numpy Array之别而报错，解决办法如下：

一方面，可以转换Tensor 与numpy array的格式，用上面的函数来实现采样;

另一方面，可以使用