Spark中SparkSQL的基础用法

最新推荐文章于 2025-06-04 09:22:20 发布

木楚

最新推荐文章于 2025-06-04 09:22:20 发布

阅读量1.7k

点赞数

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/CDW2328/article/details/93783448

大数据专栏收录该内容

13 篇文章

订阅专栏

本文详细介绍如何使用SparkSQL处理非结构化数据，包括两种不同版本的实现方式：Spark1.x和Spark2.x。从创建配置对象到处理数据，再到执行SQL查询，提供了完整的代码示例。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

SparkSQL其实说白了就是方便开发人员对RDD进行间接的操作，之我前在阿里巴巴架构数据中台的时候本来想随笔的写写今天有时间就随便写点。SparkSQL中的DataFrame本质上还是一个RDD但是DataFrame本质上又是一个DataSet，SparkSQL的中心是一个SparkCore，SparkCorez中RDD是核心。不说了直接上

第一种写法使用spark1.x版本

package com.alibaba.Test

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.{DataFrame, SQLContext}
import org.apache.spark.{SparkConf, SparkContext}

object SparkSQLDemo1 {

  def main(args:Array[String]) : Unit = {

    /**
      * 创建spark的配置对象sparkConf
      *
      */
    val sparkConf: SparkConf = new SparkConf().setAppName("SparkSQLDemo1").setMaster("local");

    /**
      * 创建spark的全文对象
      *
      */
    val sparkContext: SparkContext = new SparkContext(sparkConf);

    /**
      * 创建sparkSQL的对象
      */
    val sqlContext = new SQLContext(sparkContext);

    //读取外部的非结构化的数据
    val strRdd: RDD[String] = sparkContext.textFile("hdfs://xx.xx.xx.xx:10200/User.txt");

    //处理读取到的每一行的数据
    val userInfoRdd: RDD[UserInfo] = strRdd.map(line => {
      var lines = line.split(",");
      var id: Long = lines(0).toLong;
      var username: String = lines(1).toString;
      var age: Int = lines(2).toInt;
      var sex: String = lines(3).toString;
      var address: String = lines(4).toString;
      UserInfo(id, username, age, sex, address);
    });

    //将userinfoRdd转换为DataFream对象，通过调用toDF
    import sqlContext.implicits._
    val df: DataFrame = userInfoRdd.toDF;

    //注册一个虚拟的表
    df.registerTempTable("t_userinfo");

    //编写sql语句交给sqlContext执行,此时代码执行完以后这里仍然是个Tramsformation
    val res: DataFrame = sqlContext.sql("select * from t_userinfo order by age desc");

    //显示结果
    res.show();

    //终止spark本地进程
    sparkContext.stop();

  }
}

/**
  * 定义一个样例类
  * @param id
  * @param username
  * @param age
  * @param sex
  * @param address
  */
case class UserInfo(id:Long,username:String,age:Int,sex:String,address:String);

第二种写法使用spark1.x版本的

package com.alibaba.Test

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.types._
import org.apache.spark.sql.{DataFrame, Row, SQLContext}
import org.apache.spark.{SparkConf, SparkContext}

object SparkSQLDemo1 {

  def main(args:Array[String]) : Unit = {

    /**
      * 创建spark的配置对象sparkConf
      *
      */
    val sparkConf: SparkConf = new SparkConf().setAppName("SparkSQLDemo1").setMaster("local");

    /**
      * 创建spark的全文对象
      *
      */
    val sparkContext: SparkContext = new SparkContext(sparkConf);

    /**
      * 创建sparkSQL的对象
      */
    val sqlContext = new SQLContext(sparkContext);

    //读取外部的非结构化的数据
    val strRdd: RDD[String] = sparkContext.textFile("hdfs://xx.xx.xx.xx:10200/User.txt");

    //处理读取到的每一行的数据
    val userInfoRdd = strRdd.map(line => {
      var lines = line.split(",");
      var id: Long = lines(0).toLong;
      var username: String = lines(1).toString;
      var age: Int = lines(2).toInt;
      var sex: String = lines(3).toString;
      var address: String = lines(4).toString;
      Row(id, username, age, sex, address);
    })

    //定义一个用于定义虚拟表字段的类型和结构的对象类似于sql中建表时的字段描述
    //这是一种写法，还有一种写法
    val structType: StructType  = StructType(
        //参数一：字段的名称、参数二：字段的类型、参数三字段是否可以为空
        StructField("id",LongType,true) ::
        StructField("username", StringType, true) ::
        StructField("age", IntegerType, true) ::
        StructField("sex", StringType, true) ::
        StructField("sex", StringType, true) :: Nil
    )
    //第二种写法
    var structType1: StructType = StructType(List(
        StructField("id",LongType,true),
        StructField("username", StringType, true),
        StructField("age", IntegerType, true),
        StructField("sex", StringType, true),
        StructField("sex", StringType, true)
    ))

    //将userinfoRdd转换为DataFream对象，通过调用toDF
    val df: DataFrame = sqlContext.createDataFrame(userInfoRdd,structType1);

    //注册一个虚拟的表
    df.registerTempTable("t_userinfo");

    //编写sql语句交给sqlContext执行,此时代码执行完以后这里仍然是个Tramsformation
    val res: DataFrame = sqlContext.sql("select * from t_userinfo order by age desc");

    //显示结果
    res.show();

    //终止spark本地进程
    sparkContext.stop();

  }
}
下面是SparkSQL2.x版本的写法，sparkSQL2.x的版本其他的基本一样知识API发生了略微的变化，创建的对象由原先的SqlContext对象变成了SparkSession，spark2.x也可以完美的兼容spark1.x的

具体的写法：

package com.alibaba.Test

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.types._
import org.apache.spark.sql.{DataFrame, Dataset, Row, SparkSession}

/**
  * sparkSQL2.x版本
  */
object SparkSQLDemo2 {

  def main(args: Array[String]): Unit = {

    /**
      * 2.x主要是用SparkSession对象来构建
      * sparkSession对象对sparkContext对象做了一次封装
      */
    val sparkSession: SparkSession = SparkSession
      .builder()
      .appName("SparkSQLDemo2")
      .master("local")
      .getOrCreate();

    //读取数据
    val readText: RDD[String] = sparkSession.sparkContext.textFile("hdfs://xx.xx.xx.xx:10200/User.txt");

    //处理数据
    val userInfoRdd: RDD[Row] = readText.map(line => {
      var lines = line.split(",");
      var id: Long = lines(0).toLong;
      var username: String = lines(1).toString;
      var age: Int = lines(2).toInt;
      var sex: String = lines(3).toString
      var address: String = lines(4).toString
      Row(id, username, age, sex, address)
    });

    //定义数据的描述类型
    var structType = StructType(
      StructField("id",LongType,true)::
      StructField("username",StringType,true) ::
      StructField("age",IntegerType,true) ::
      StructField("sex",StringType,true) ::
      StructField("address",StringType,true) :: Nil
    );

    val result: DataFrame = sparkSession.createDataFrame(userInfoRdd, structType);

    //注意这里要隐式的转换一下
    import sparkSession.implicits._
    val res: Dataset[Row] = result.where("id > 1").orderBy($"age" desc);

    res.show();

    sparkSession.stop();
  }
}

好了基础的写法嘛就随便写写即可。对于spark更深层次的以后慢慢想写了会补点的。