Vincy_King

用tansformers roberta模型添加special tokens

最近在做一个角色识别的项目，项目中需要用到共指消解的方法，大体了解的有四种：基于Spenbert（https://github.com/troublemaker-r/Chinese_Coreference_Resolution/blob/2b88450eeb3da248fb0f6365c38a32b9fffcb962/README.md）基于问答系统的Span prediction（https://github.com/ShannonAI/CorefQA）参考Emory NLP的工作，他们也是做角色

关于知识蒸馏的概念和代码

1. 线性回归2. 基础优化算法3. 线性回归的从零开始实现import randomimport torchfrom d2l import torch as d2l# 构造人造数据集def synthetic_data(w,b,num_examples): """生成 y=Xw+b+噪声""" X=torch.normal(0,1,(num_examples,len(w))) y=torch.matmul(X,w)+b y+=torch.normal(0,0

1. 定义任务from openprompt.data_utils import InputExampleclasses=[ 'negative', 'positive']dataset=[ InputExample( guid = 0, text_a = "Albert Einstein was one of the greatest intellects of his time.", ), InputExample(