pySpark学习笔记3——处理csv数据(合并与存储在hdfs)

本文介绍使用pySpark处理csv数据,包括在hdfs上合并csv文件和处理header的问题。遇到的问题包括csv写入时总是生成文件夹而非单一文件,以及如何合并csv文件。通过正则匹配找到csv文件并使用Spark读取合并,同时讨论了存储为碎片文件的原因和处理方式。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

上一篇博文是开始,处理csv数据还是需要继续,将我所有数据的预处理及编码,agg以及np的处理,全部改成spark中的数据处理,这个肯定有难度,但我觉得可以尝试,毕竟还是有意思的,就是翻译代码。加油吧,搬砖工。

For Recommendation in Deep learning QQ Group 277356808

For Visual in deep learning QQ Group 629530787

I'm here waiting for you

不接受这个网页的私聊/私信!!!

目前最简单的是实现片段csv的拼接,下面先进行尝试,直接存储在hdfs上,如果这个都没通,高楼大厦全都是空中楼阁,无稽之谈。

 1-所以目前遇到了一个问题,写入的csv文件为何必然是文件夹,我直接写一个csv文件咋就不行呢??这是哪里来的幺蛾子?

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小李飞刀李寻欢

您的欣赏将是我奋斗路上的动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值