[NLP笔记] 语言模型

语言模型

• XLNet
• Bert
• 谷歌的Transformer-XL（一种基于Transformer的模型，在语言建模方面胜过BERT）
• OpenAI的GPT-2模型（以其生成非常像人类的语言文字而闻名）GPT-2模型地址
• CMU的XLNet
• Facebook AI的RoBERTa和mBERT（多语言BERT）
• 百度的ERNIE 2.0
• HuggingFace的DistilBERT
• 谷歌和丰田的ALBERT

参考

1. 一文看尽2019全年AI技术突破 量子位