RoBERTa:https://zhuanlan.zhihu.com/p/103205929 使用动态mask FULL-SENTENCES without NSP 更大的bs 更大的byte-level BPE Soft-Masked BERT 修正网络是一个基于BERT的序贯多类标记模型 DistilBERT： 原理：这个的做法就是用蒸馏12层的BERT得到6层的DistilBERT，首先预训练好BERT，然后用训练BERT的大规模预料来蒸馏12层的BE...

1. labek2id.pkl 2. graph.pb 3. 模型参数需要一致 在我们使用bert预分类模型微调之后（可以参考我前面写的文章），需要对项目进行支持，那就需要分类模型落地提供服务，这篇文章介绍python调用bert模型，提供服务。 参考：https://github.com/xmxoxo/BERT-train2deploy 在后期部署的时候，需要一个label2id的字典，所...

http://www.cnblogs.com/rucwxb/p/10277217.html https://zhuanlan.zhihu.com/p/49271699 https://ai.googleblog.com/2017/08/transformer-novel-neural-network.html https://www.jianshu.com/p/ef41302edeef h...