spark连接mysql并操作数据库的增删改查

最新推荐文章于 2021-03-27 01:38:50 发布

原创

最新推荐文章于 2021-03-27 01:38:50 发布 · 2.3k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#数据库 #mysql #大数据 #scala

本文介绍了如何在Linux环境中启动MySQL服务，并通过Scala使用Spark进行数据库的增删改查操作。首先，通过命令行启动MySQL并登录，然后创建名为'sparktest'的数据库和'employee'表。接着，利用Scala代码进行数据库交互，实现数据的管理。

1.linux端启动mysql服务：

server mysqld start 启动mysql服务进程

netstat -anp | grep 3306 查看mysql服务是否启动

mysql -u root -p 使用root用户登陆mysql

输入密码即可登陆，首次登陆或者无密码，则不需要密码直接回车即可。

2.建立数据库集表

create database sparktest;

user sparktest;

create table employee（id int，name char(10),sex char(2),age int);

或者可以使用mysql的可视化软件进行创建，更加方便。

3.项目代码

package sparkSql
import java.util.Properties

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.types.{IntegerType, StringType, StructType}
import org.apache.spark.sql.{DataFrame, Row, SparkSession}
object sparkSql_JDBC {
  def main(args: Array[String]): Unit = {
//设置spark运行环境
    val spark = SparkSession
      .builder().master("local[2]")
      .appName("Spark SQL basic example")
      .getOrCreate()
    spark.sqlContext.sparkContext.setLogLevel("WARN")
    import spark.impl