使用Hugging Face获取BERT预训练模型

【图书推荐】《从零开始大模型开发与微调：基于PyTorch与ChatGLM》_《从零开始大模型开发与微调:基于pytorch与chatglm》-优快云博客

BERT是一个预训练模型，其基本架构和存档都有相应的服务公司提供下载服务，而Hugging Face是一家目前专门免费提供自然语言处理预训练模型的公司。

Hugging Face是一家总部位于纽约的聊天机器人初创服务商，开发的应用在青少年中颇受欢迎，相比于其他公司，Hugging Face更加注重产品带来的情感以及环境因素。在GitHub上开源的自然语言处理、预训练模型库Transformers提供了NLP领域大量优秀的预训练语言模型和调用框架。

（1） 安装依赖。

安装Hugging Face依赖的方法很简单，命令如下：

pip install transformers

安装完成后，即可使用Hugging Face提供的预训练模型BERT。

（2） 使用Hugging Face提供的代码格式进行BERT的引入与使用，代码如下：