SparkStreaming之foreachRDD写数据到MySQL、连接池、Window/窗口

本文介绍了如何使用SparkStreaming将数据写入MySQL,重点讲解了foreachRDD、foreachPartition和foreach的使用,以及如何配置MySQL连接池。同时,文章详细探讨了SparkStreaming中的Window操作,包括窗口长度和滑动间隔的概念,并通过实例进行了说明。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、MySQL连接

  def getConnection()={
   
   
    Class.forName("com.mysql.jdbc.Driver")
    DriverManager.getConnection("jdbc:mysql://192.168.137.130:3306/rzdb?useSSL=false","root","syncdb123!")
  }

2、foreachRDD=>foreachPartition=>foreach

先开启natcat

[hadoop@vm01 bin]$ nc -lk 8888

MySQL创建一张表

create table wc(word varchar(20),cnt int(10));

然后按照下面4段代码,依次注释和执行。

package com.ruozedata.spark
import java.sql.DriverManager
import org.apache.spark.SparkConf
import org.apache.spark.streaming.{
   
   Seconds, StreamingContext}

object SocketWCApp {
   
   
  def main(args: Array[String]): Unit = {
   
   
    val sparkConf=new SparkConf().setMaster("local[2]").setAppName("SocketWCApp")
    val ssc=new StreamingContext(sparkConf
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值