19、循环神经网络与一维卷积网络的高级应用

循环神经网络与一维卷积网络的高级应用

1. 循环神经网络的高级使用

1.1 循环单元的Dropout正则化

在循环神经网络中，为了防止过拟合，可以使用 dropout 和 recurrent_dropout 。 dropout 指定普通单元的丢弃率， recurrent_dropout 指定循环单元的丢弃率。以下是一个添加了 dropout 和 recurrent_dropout 的GRU层的代码示例：

from keras.models import Sequential
from keras import layers
from keras.optimizers import RMSprop

model = Sequential()
model.add(layers.GRU(32,
                     dropout=0.2,
                     recurrent_dropout=0.2,
                     input_shape=(None, float_data.shape[-1])))
model.add(layers.Dense(1))
model.compile(optimizer=RMSprop(), loss='mae')
history = model.fit_generator(train_gen,