最近涉及到一个工作,想用RoBerta替换Bert看看结果,然后发现它的分隔符不能用[SEP]加在句子里。结论如下:
Bert里是在句子里添加[SEP],inputs_id对应102。Roberta是在句子里添加</s>,inputs_id对应2。另外,Roberta对应的[CLS]是<s>,对应id是0。
最近涉及到一个工作,想用RoBerta替换Bert看看结果,然后发现它的分隔符不能用[SEP]加在句子里。结论如下:
Bert里是在句子里添加[SEP],inputs_id对应102。Roberta是在句子里添加</s>,inputs_id对应2。另外,Roberta对应的[CLS]是<s>,对应id是0。