问答模型(四)——数据处理

NewtonLoop

于 2022-03-16 17:19:34 发布

阅读量353

点赞数

CC 4.0 BY-SA版权

分类专栏：项目实训文章标签： paddlepaddle 深度学习机器学习

本文链接：https://blog.youkuaiyun.com/NewtonLoop/article/details/123531272

使用load_dataset()API默认读取到的数据集是MapDataset对象，MapDataset是paddle.io.Dataset的功能增强版本。其内置的map()方法适合用来进行批量数据集处理。map()方法传入的是一个用于数据处理的function。以下是Dureader-Robust中数据转化的用法：

max_seq_length = 512
doc_stride = 128

train_trans_func = partial(prepare_train_features, 
                           max_seq_length=max_seq_length, 
                           doc_stride=doc_stride,
                           tokenizer=tokenizer)

train_ds.map(train_trans_func, batched=True)

dev_trans_func = partial(prepare_validation_features, 
                           max_seq_length=max_seq_length, 
                           doc_stride<