Transformer经典模型实战：零基础训练一个面向中文的T5模型（Text to Text Transfer Transformer）

本文链接：https://blog.youkuaiyun.com/bayesian1/article/details/141353966

scient

scient一个用python实现科学计算相关算法的包，包括自然语言、图像、神经网络、优化算法、机器学习、图计算等模块。

scient源码和编译安装包可以在Python package index获取。

The source code and binary installers for the latest released version are available at the [Python package index].

可以用pip安装scient。

You can install scient like this:

pip install scient

也可以用setup.py安装。

Or in the scient directory, execute:

python setup.py install

scient.neuralnet

神经网络相关算法模块，包括attention、transformer、bert、lstm、resnet、crf、dataset、fit等。

scient.neuralnet.transformer

实现了多个Transformer模型，包括Transformer、T5Transformer、ViTransformer、DecodeTransformer、Encoder、Decoder。

scient.neuralnet.transformer.T5Transformer(vocab_size: int, seq_len: int = 512, embed_size: int = 768,
										   n_head: int = 12, n_encode_layer: int = 12, n_decode_layer: int = 12, n_bucket: int = 32,
										   max_dist: int = 128, norm_first: bool = True, bias: bool = False, attn_scale: bool = False,
										   **kwargs)

Parameters

vocab_size : int
字典规模.
seq_len : int, optional
序列长度. The default is 512.
embed_size : int, optional
embedding向量长度. The default is 768.
n_head : int, optional
multi_head_attention的head数量. The default is 12.
n_encode_layer : int, optional
编码层数. The default is 12.
n_decode_layer : int, optional
解码层数. The default is 12.
n_bucket : int, optional
multi_head_attention中相对位置编码的分桶数量. The default is 32.
max_dist : int, optional
multi_head_attention中相对位置编码的最大距离. The default is 128.
norm_first : bool, optional
在每一个编码/解码层中是否先进行Batch Normalization. The default is True.
bias : bool, optional
模型中的参数是否bias. The default is False.
attn_scale : bool, optional
multi_head_attention中是否需要对注意力矩阵进行scale. The default is False.
kwargs : 其它参数，kwargs中的参数将被传递到Encoder层和Decoder层。