黑白象

命名实体识别

使用pytorch实现tf.batch_gather： def batch_gather(data:torch.Tensor, index:torch.Tensor): length = index.shape[0] t_index = index.data.numpy() t_data = data.data.numpy() ...

前言在文本分类任务中常用的网络是RNN系列或Transformer的Encoder，很久没有看到CNN网络的身影（很久之前有TextCNN网络）。本文尝试使用CNN网络搭建一个文本分类器，命名为：ADGCNN。ADGRCNN网络有以下元素构成：A：Self-Attention（自注意力）；D：Dilated Convolution（空洞卷积）；G：Gated Linear Units（...

目录网络结构代码实现模型效果网络结构代码实现class TextBILSTM(nn.Module): def __init__(self, config:TRNNConfig, char_size = 5000, pinyin_size = 5000): ...

**描述：**使用pytorch训练好的模型对数据进行预测时，将model设置为eval()模式之后，发现同样的数据每次预测时的概率值会变动。**分析：**eval()可以将模型切换为 evaluation 模式，（仅仅当模型中含有Dropout和BatchNorm才起作用）。这里所说的“模型中含有Dropout和BatchNorm ” 是指 _modules 中含有（当类成员的type派生于M...

目录网络结构代码实现网络结构代码实现class TextCNN(nn.Module): def __init__(self, config:TCNNConfig, char_size = 5000, pinyin_size=5000): super(TextCNN, self).__init__(...

1.依赖包PACKAGEVERSIONpython3.5six1.10.0thriftpy0.3.9thrift-sasl0.2.1（不能用最新版本）bitarray0.8.3Impyla0.14.1thrift0.9.3pure-sasl0.5.12.修改源文件2.1 修改Anaconda3\Lib\site...

文章目录TensorAutogradTensorAutograd

文章目录前言网络结构代码实现实践经验前言文本分类不是生成式的任务，因此只使用Transformer的编码部分（Encoder）进行特征提取。如果不熟悉Transformer模型的原理请移步。网络结构代码实现自注意力模型：class TextSlfAttnNet(nn.Module): ''' 自注意力模型 ''' def __init__(self, ...