hyzhyzhyz12345的博客

预览这里使用albert模型对词进行初始embedding，再输入到lstm-crf中2.pip isntall transformer，下载hugging face的库#因为albert中文版没有sentencepiece，故通过hugging face的bert_tokenize进行词索引的转换tokenizer = BertTokenizer.from_pretrained(‘bert-base-chinese’)#得到hugging face预训练模型参数word_embeddi.

tensor和Tensortensor接收的是数据，注意是【2.， 3.2】，这样数据类型是torch.float也可以指定类型torch.Tensor（）和torch.FloatTensor（）一样，可以接收数据，默认为torch.float，可以通过torch.set_default_tensor_type(torch.DoubleTensor)修改也可以接收数据形状，随机初始化数据，注意这里没有【】torch.FloatTensor（）的创建通常建议torch.tensor([