【OpenPrompt】源码学习笔记-优快云博客

本文链接：https://blog.youkuaiyun.com/CELINE_HUANG/article/details/126383153

本文档详细介绍了OpenPrompt，一个由清华NLP实验室开发的开源工具包，专注于prompting技术。该库提供了一种标准化的方式来实现模板、口述和优化策略，简化了prompt学习的过程。它包括PromptModel，PromptForClassification和PromptForGeneration，分别用于分类和生成任务。用户可以自定义模型输入格式，并通过模板进行后处理。此外，还展示了如何将预训练模型与模板结合使用，将logits转换为标签。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

说明：文章为学习清华NLP实验室开源套件OpenPrompt源代码的记录，欢迎大佬批评指正
GitHub网址：https://github.com/thunlp/OpenPrompt

简介

OpenPrompt 实现了多种prompting的方法，并实现了templating，verbalizing 和 optimization 策略的标准化，使得 prompt-learning 更方便。

提示：以下是本篇文章正文内容，下面案例可供参考

1. pipeline_base.py

PromptModel
封装了 Template 和 pre-trained model (plm与Huggingface Transformer 模型一致)，
提供了了控制模型参数的接口，如freeze_plm，plm_eval_mode
模型的输入格式可以通过template进行自定义，
模型的输出为transformers.modeling_outputs.MaskedLMOutput，
如果有特殊需要，可以在template里面对输出进行post process

PromptForClassification
调用了PromptModel，获得transformer模型的输出(MaskedLMOutput格式)，
然后通过extract_at_mask和verbalizer.process_outputs函数将输出的logits映射成label

PromptForGeneration
同样调用了PromptModel，然后进行后处理使得其适配生成任务。