【小白做科研(三)】数据处理

在对研究进展有一定了解后,尝试复现论文代码是科研过程中的重要步骤。本文聚焦于使用PyTorch进行数据处理,包括为何选择PyTorch、数据加载工具Dataset和DataLoader的使用,以及torchtext在文本处理中的应用。同时分享了如何参考微软开源推荐系统的代码,将数据处理移植到PyTorch平台,并提供了个人仓库链接以供交流。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

读了很多论文,咱们自己心里也对整体的进展有了一些了解和脉络,那么下一步就可以试着复现啦~

而要复现人家的代码,那肯定得找人家的数据集,数据到手后就可以开始处理了~ 这篇主要粘一些看到的比较好的博客

平台

我自己就是觉得pytorch比tensorflow帅hhhh,而且很多师兄大佬也说pytorch比较好,那就可以先从官网教程开始了解~

  • 需要指明一点,大家安装pytorch后其实不需要装cuda也可以用gpu(因为torch里附带了一些cuda的驱动),但是好像是功能受限,如果想要完整版应该还是得老老实实cuda+cudnn

数据处理

要训练模型的话,最好是喂一批(batch)一批的数据进去,所以我们需要把数据读取自己需要的部分,然后让数据成批呈现,这里pytorch提供了很方便的工具Dataset和DataLoader,定义好了就可以直接用;

我想着重说一下torchtext啊,主要是在文本处理这块用,其中有很丰富方便的功能,其实pytorch官网中一些text的教程</

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值