KafkaReceiverWordCount.scala 例子

最新推荐文章于 2024-08-03 16:52:38 发布

weixin_30344131

最新推荐文章于 2024-08-03 16:52:38 发布

阅读量67

点赞数

CC 4.0 BY-SA版权

文章标签： scala 大数据

原文链接：http://www.cnblogs.com/arthurLance/p/10540925.html

本文介绍了一种使用Apache Spark Streaming与Kafka消息队列进行集成的方法，通过创建流处理应用，实现从Kafka接收数据并进行实时词频统计。文章详细展示了如何配置Spark和Kafka参数，以及具体代码实现。

package com.imooc.spark

import org.apache.spark.SparkConf
import org.apache.spark.streaming.kafka.KafkaUtils
import org.apache.spark.streaming.{Seconds, StreamingContext}

/**
  * Spark Streaming对接Kafka的方式一
  */
object KafkaReceiverWordCount {

  def main(args: Array[String]): Unit = {

    if(args.length != 4) {
      System.err.println("Usage: KafkaReceiverWordCount <zkQuorum> <group> <topics> <numThreads>")
    }

    val Array(zkQuorum, group, topics, numThreads) = args

    val sparkConf = new SparkConf() .setAppName("KafkaReceiverWordCount").setMaster("local[2]")

    val ssc = new StreamingContext(sparkConf, Seconds(5))

    val topicMap = topics.split(",").map((_, numThreads.toInt)).toMap

    val messages = KafkaUtils.createStream(ssc, zkQuorum, group,topicMap)

    messages.map(_._2).flatMap(_.split(" ")).map((_,1)).reduceByKey(_+_).print()

    ssc.start()
    ssc.awaitTermination()
  }
}

转载于:https://www.cnblogs.com/arthurLance/p/10540925.html