19、文本深度学习：Keras与spaCy实战

文本深度学习：Keras与spaCy实战

1. 文本生成基础回顾

在文本生成任务中，我们基于输入选择下一个字符的最高概率（使用 argmax 方法返回最大值的索引），将该索引转换为字符并添加到输出列表。通过循环多次迭代，即可生成文本。例如代码：

print (""", ''.join([ix_to_char[value] for value in output]), """)

在LSTM示例里，虽然我们未训练大规模网络，但堆叠更多层可获得更好结果。进一步修剪输入数据、增加训练轮数也能提升性能，不过这会增加训练时间。若只是实验RNN而非构建可扩展或生产模型，Keras是不错的选择。

通过深度学习，我们能训练神经网络生成在语法、拼写和语义上接近人类文本的内容。经过更多微调与人工监督，利用此技术可创建逼真的聊天机器人。而且，神经网络在文本分类、聚类等更实际的文本分析任务中应用广泛。

2. Keras与spaCy简介

Keras是一个高级库，可轻松构建神经网络。它提供简洁的API来生成复杂学习系统，在学术界和工业界都广泛使用。Keras支持多种后端（Theano、Tensorflow、CNTK），具有灵活性，拥有庞大用户群和活跃社区，便于解决问题和将模型投入生产。

spaCy基于深度学习技术，其平滑的训练API让我们可将训练模型视为黑盒，专注于训练数据。我们还能调整超参数，如正则化器或丢弃率，以控制过拟合。spaCy的 TextCategorizer 组件可用于训练分