使用 Pegasus-t5 预训练模型遇到问题解决

最新推荐文章于 2024-12-11 09:53:00 发布

be_humble

最新推荐文章于 2024-12-11 09:53:00 发布

阅读量945

点赞数 11

CC 4.0 BY-SA版权

文章标签：人工智能语言模型自然语言处理

本文链接：https://blog.youkuaiyun.com/be_humble/article/details/135912975

文章关注在使用中文摘要模型T5-Pegasus时遇到的tokenizer问题，提供了解决方案和下载步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

背景

因为大模型之前，中文摘要效果比较好的模型就是t5-pegasus，在huggingface上的预训练模型，down下来使用遇到两个问题。

问题&解决

需要手动把tokenizer相关文件进行调整到当前文件夹下，并修改data_utils 中fengshen的地址
transformers 版本降低为4.29.1 否则会找不到vocab

demo 代码


from transformers import PegasusForConditionalGeneration
# Need to download tokenizers_pegasus.py and other Python script from Fengshenbang-LM github repo in advance,
# or you can download tokenizers_pegasus.py and data_utils.py in https://huggingface.co/IDEA-CCNL/Randeng_Pegasus_523M/tree/main
# Strongly recommend you git clone the Fengshenbang-LM repo:
# 1. git clone https://github.com/IDEA-CCNL/Fengshenbang-LM
# 2. cd Fengshenbang-LM/fengshen/examples/pegasus/
# and then you will see the tokenizers_pegasus.py and data_utils.py which are needed by pegasus model
from tokenizers_pegasus import PegasusTokenizer

model = PegasusForConditionalGeneration.from_pretrained("IDEA-CCNL/Randeng-Pegasus-523M-Summary-Chinese")
tokenizer = PegasusTokenizer.from_pretrained("IDEA-CCNL/Randeng-Pegasus-523M-Summary-Chinese")

text = "据微信公众号“界面”报道，4日上午10点左右，中国发改委反垄断调查小组突击查访奔驰上海办事处，调取数据材料，并对多名奔驰高管进行了约谈。截止昨日晚9点，包括北京梅赛德斯-奔驰销售服务有限公司东区总经理在内的多名管理人员仍留在上海办公室内"
inputs = tokenizer(text, max_length=1024, return_tensors="pt")

# Generate Summary
summary_ids = model.generate(inputs["input_ids"])
tokenizer.batch_decode(summary_ids, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0]

# model Output: 反垄断调查小组突击查访奔驰上海办事处，对多名奔驰高管进行约谈