sparkstreaming 读取本地文件获取不到内容

于 2019-10-25 14:56:07 发布
阅读量2.4k 收藏 1
点赞数 1
分类专栏： 大数据 spark
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_42194239/article/details/102743017
版权
本文介绍了SparkStreaming在读取本地文件时遇到的三个常见问题：1) 批次间隔时间设置过长；2) 文件路径应使用绝对路径并以file:///开头；3) 文件作为数据流写入指定目录。解决这些问题有助于确保SparkStreaming能正确地读取和处理文件。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. 批次间隔大于3s

2. 文件地址写成绝对路径且使用file:///开头

例：ssc.textFileStream(“file:///D:/cs/scalaPro/SparkDemo/data”)

3. 读取目录中的文件以文件流形式写入该目录下

评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值