spark部署一台机器时sparkstreaming无结果数据打印的问题

本文探讨了在1核1G的小型主机上使用Apache Spark Streaming进行测试时遇到的问题。由于Spark Streaming启动了接收和处理数据的两个线程,而local模式下仅启动了一个线程,导致数据无法被有效处理。文章揭示了这一现象的原因,并指出在多核环境下该问题不会出现。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

如:

bin/run-example org.apache.spark.examples.streaming.NetworkWordCount localhost 9999

此时默认 --master local .

这看起来毫无问题,但我在一台1核1G的主机上测试该样例,却永远无法成功。 原因这位老兄已道出:

Note

I experienced exactly the same problems when using SparkContext with “local[1]” master specification, because in that case one thread is used for receiving data, the others for processing. As there is only one thread running, no processing will take place. Once you shut down the connection, the receiver thread will be used for processing.

也就是说,spark streaming在启动时会启动两个线程: receving threadprocessing data thread.

local 模式下,spark streaming只启动了与CPU核数相同个数的线程(在我的例子中, 只有一个线程),无论如何是无法测试成功的;而在其它开发主机(4核主机)则完全不会出现此问题。

这涉及到了spark的线程模型。更深入的文档我还尚未找到。如果你有更深入的理解,欢迎探讨。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值