Facebook开源CNN机器翻译的PyTorch实现,速度提高80%

Facebook发布了fairseq-py,这是一个使用PyTorch实现的高效机器翻译工具包,相较于之前版本,该工具包提升了翻译效率并加快了训练速度。它不仅支持多GPU训练,还包含了预训练模型。
本文来自AI新媒体量子位(QbitAI)

2a8f8e855829881090708f95dd0ea5a96e6f52f7

还记得Facebook那篇用CNN做机器翻译的论文吗?Convolutional Sequence to Sequence Learning

在那篇论文中,Facebook的研究人员们展示了他们的研究成果:用CNN来做机器翻译,达到顶尖的准确率,速度则是RNN的9倍。

640?wx_fmt=png&wxfrom=5&wx_lazy=1

同时,Facebook还开放了seq2seq学习工具包fairseq的Torch源代码和已训练的系统。

最近,Facebook又开源了fairseq的PyTorch版:fairseq-py

根据Facebook在GitHub上的介绍,fairseq-py包含论文中描述的全卷积模型,支持在一台机器上用多GPU进行训练,以及CPU和GPU上的快速beam search生成。

fairseq-py可以用来里实现机器翻译,也能用于其他seq2seq的NLP任务。

这个开源工具包同时还包含英译法、英译德的预训练机器翻译模型。

fairseq-py比之前的Torch版更高效,翻译的速度提高了80%,训练速度提升近50%。

fairseq-py的GitHub链接:
https://github.com/facebookresearch/fairseq-py

论文Convolutional Sequence to Sequence Learning:
https://arxiv.org/abs/1705.03122

fccda8d63dbdfc8b498d228f9b30b08f566f456d

727b2aa8891a1d6ad2442010b5d0445728642fff

Torch版GitHub链接:
https://github.com/facebookresearch/fairseq

用户论坛:
https://groups.google.com/forum/#!forum/fairseq-users

本文作者:李林
原文发布时间:2017-09-19 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值