SparkStreaming之foreachRDD写数据到MySQL、连接池、Window/窗口

最新推荐文章于 2021-01-30 10:06:17 发布

11号车厢

最新推荐文章于 2021-01-30 10:06:17 发布

阅读量1k

点赞数

CC 4.0 BY-SA版权

分类专栏： Spark2 文章标签： SparkStreaming

本文链接：https://blog.youkuaiyun.com/greenplum_xiaofan/article/details/99220968

本文介绍了如何使用SparkStreaming将数据写入MySQL，重点讲解了foreachRDD、foreachPartition和foreach的使用，以及如何配置MySQL连接池。同时，文章详细探讨了SparkStreaming中的Window操作，包括窗口长度和滑动间隔的概念，并通过实例进行了说明。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

1、MySQL连接

  def getConnection()={
   
   
    Class.forName("com.mysql.jdbc.Driver")
    DriverManager.getConnection("jdbc:mysql://192.168.137.130:3306/rzdb?useSSL=false","root","syncdb123!")
  }

2、foreachRDD=>foreachPartition=>foreach

先开启natcat

[hadoop@vm01 bin]$ nc -lk 8888

MySQL创建一张表

create table wc(word varchar(20),cnt int(10));

然后按照下面4段代码，依次注释和执行。

package com.ruozedata.spark
import java.sql.DriverManager
import org.apache.spark.SparkConf
import org.apache.spark.streaming.{
   
   Seconds, StreamingContext}

object SocketWCApp {
   
   
  def main(args: Array[String]): Unit = {
   
   
    val sparkConf=new SparkConf().setMaster("local[2]").setAppName("SocketWCApp")
    val ssc=new StreamingContext(sparkConf