在spark中操作mysql数据 ---- spark学习之七

最新推荐文章于 2023-11-21 05:27:29 发布

转载最新推荐文章于 2023-11-21 05:27:29 发布 · 373 阅读

spark 专栏收录该内容

6 篇文章

订阅专栏

本文介绍如何使用Spark的DataFrame API操作MySQL数据库，包括加载数据、执行SQL查询、分组统计及结果输出等步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在spark中操作mysql数据 ---- spark学习之七

使用spark的 DataFrame 来操作mysql数据。

DataFrame是比RDD更高一个级别的抽象，可以应用SQL语句进行操作，详细参考：

https://spark.apache.org/docs/latest/sql-programming-guide.html

这里暂时使用spark-shell进行操作，

1.首先，必须要先下载一个mysql的jdbc的驱动

可以从这里下载

2.然后呢，就好办了。

#具体的启动spark-shell的方法（带上mysql的driver）
$~/spark-shell --driver-class-path /path-to-mysql-jar/mysql-connector-java-5.1.34-bin.jar

#定义mysql的信息
val url="jdbc:mysql://10.181.176.226:3306/geo_info"
val prop = new java.util.Properties
prop.setProperty("user","geo")
prop.setProperty("password","xxxxxx”)

#指定读取条件,这里 Array("country_code='CN'") 是where过滤条件

val cnFlight = sqlContext.read.jdbc(url,"gps_location",Array("country_code='CN'"),prop)

#然后进行groupby 操作,获取数据集合
val emailList = cnFlight.groupBy("gps_city", "user_mail”)

#计算数目，并根据数目进行降序排序
val sorted = emailList.count().orderBy( desc("count") )

#显示前10条
sorted.show(10)

#存储到文件（这里会有很多分片文件。。。）
sorted.rdd.saveAsTextFile("/home/qingpingzhang/data/flight_top”)


#存储到mysql表里
sorted.write.jdbc(url,"table_name",prop)

3.具体文件编写代码，然后提交worker也类似，主要是DataFrame的 sqlContext声明会不一样。

val sc: SparkContext // An existing SparkContext.
val sqlContext = new org.apache.spark.sql.SQLContext(sc)

这里如果要用spark-submit，则会有坑，即便你是用sbt的assembly来打包的一个全的jar包：

参考：http://www.iteblog.com/archives/1300

[itelbog@iteblog ~]$  bin/spark-submit --master local[2]     --driver-class-path lib/mysql-connector-java-5.1.35.jar    --class  spark.SparkToJDBC ./spark-test_2.10-1.0.jar