Adapter Transformers 模型训练

最新推荐文章于 2024-03-17 08:43:20 发布

SUN_SU3

最新推荐文章于 2024-03-17 08:43:20 发布

阅读量1.9k

点赞数

分类专栏：模型文章标签：深度学习

本文链接：https://blog.youkuaiyun.com/u013546508/article/details/114138922

版权

本文介绍了如何构建和训练一个采用adapter结构的深度学习模型，重点聚焦于Adapter Transformers的实现过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

构建一个带adapter结构的模型

from transformers import BertForSequenceClassification
from transformers import AdapterType, MultiLingAdapterArguments, HfArgumentParser, AdapterConfig

model = BertForSequenceClassification.from_pretrained(model_name, num_labels=n_label)
parser = HfArgumentParser((MultiLingAdapterArguments