PromptCLUE 使用教程

PromptCLUE 使用教程

PromptCLUE PromptCLUE, 全中文任务支持零样本学习模型 项目地址: https://gitcode.com/gh_mirrors/pr/PromptCLUE

1. 项目介绍

PromptCLUE 是一个大规模多任务Prompt预训练中文开源模型，由优快云公司开发的InsCode AI大模型提供支持。该模型在中文领域实现了三大统一：统一模型框架、统一任务形式和统一应用方式，支持几十个不同类型的任务，并具有较好的零样本学习能力和少样本学习能力。PromptCLUE 在千亿中文token上进行大规模预训练，并在亿级中文任务数据上完成训练，能够提供强大的理解、生成和抽取能力。

2. 项目快速启动

首先，您需要安装以下项目和包：

git clone https://github.com/huggingface/transformers.git
pip install ./transformers
pip install sentencepiece

接下来，加载模型和分词器：

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("ClueAI/PromptCLUE-base")
model = AutoModelForSeq2SeqLM.from_pretrained("ClueAI/PromptCLUE-base")

使用模型进行预测的示例：

import torch

# 修改为您的设备设置
device = torch.device('cuda')
model.to(device)

def preprocess(text):
    return text.replace("\n", "_")

def postprocess(text):
    return text.replace("_", "\n")

def answer(text, sample=False, top_p=0.6):
    text = preprocess(text)
    encoding = tokenizer(text=[text], truncation=True, padding=True, max_length=768, return_tensors="pt").to(device)
    if not sample:
        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_length=128, num_beams=4, length_penalty=0.6)
    else:
        out = model.generate(**encoding, return_dict_in_generate=True, output_scores=False, max_length=128, do_sample=True, top_p=top_p)
    out_text = tokenizer.batch_decode(out["sequences"], skip_special_tokens=True)
    return postprocess(out_text[0])

# 使用函数进行预测
print(answer("这是一个示例文本，请对其进行分类。"))

3. 应用案例和最佳实践

以下是一些使用 PromptCLUE 的应用案例：

• 情感分析：分析文本中的情感倾向，如积极或消极。
• 文本分类：将文本分类到预设的类别中，如新闻分类、意图分类等。
• 阅读理解：从文章中提取答案，以回答具体问题。
• 信息抽取：从文本中提取结构化信息，如人物、地点、时间等。
• 文本生成：生成摘要、问答对、改写文本等。

最佳实践建议：

• 在使用模型前，了解并熟悉模型的配置和参数。
• 对于特定任务，可以尝试调整模型的参数以获得更好的性能。
• 使用适当的预处理和后处理步骤来准备和解释模型的输出。

4. 典型生态项目

PromptCLUE 的生态项目包括但不限于以下几种：

• PromptCLUE 工具包：提供对 PromptCLUE 模型的封装和简化使用方法。
• 基于 PromptCLUE 的应用服务：例如，构建聊天机器人、文本分析工具等。
• PromptCLUE 教育和培训材料：包括教程、在线课程、工作坊等，帮助用户学习和掌握模型的使用。

通过这些生态项目，用户可以更方便地使用 PromptCLUE 模型，并将其集成到自己的应用中。

PromptCLUE PromptCLUE, 全中文任务支持零样本学习模型 项目地址: https://gitcode.com/gh_mirrors/pr/PromptCLUE