提供了一个效果较好的文本生成项目,该项目基于transformer-xl,并将代码修改为可以在tensorflow 2.x版本下运行,同时可以兼容tensorflow 1.x版本。提供了鲁迅小说数据集、唐诗数据集,可参考项目给出的说明,有针对性的训练对应的文本生成模型。
训练时,修改script文件下的.sh文件,将数据集、模型保存地址、注意力层、注意力头数改为自己想要的,然后运行train.py文件;
生成模式时,调用train中的inreference即可,input位置为输入文本位置。
项目代码:
text generation based on transformer-xl-tf2.3
该项目部署在Mo公有云(目前调用有点问题,暂时无法体验)
如果使用有疑问,可以在issue留言,或在这里留言,欢迎star。