根据dws.city_consumption_day_aggr取出该省份每个月订单金额中位数

该段代码使用SparkSQL对名为dwd.fact_order_master的表进行处理,提取etl_date列的年份和月份,按省份(province)、年和月分组,计算订单金额的中位数并转换为double类型,输出为provincemidconsumption。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

    val df2 = spark.table("dwd.fact_order_master")
      .withColumn("year", lit(date_format(from_unixtime(unix_timestamp(col("etl_date"), "yyyyMMdd"), "yyyy-MM-dd"), "yyyy")).cast("int"))
      .withColumn("month", lit(date_format(from_unixtime(unix_timestamp(col("etl_date"), "yyyyMMdd"), "yyyy-MM-dd"), "MM")).cast("int"))
      .groupBy(col("province").alias("provincename"), col("year"), col("month"))
      .agg(expr("percentile(order_money,array(0.5))[0]").cast("double").alias("provincemidconsumption"))

取中位数转换为double

.agg(expr("percentile(order_money,array(0.5))[0]").cast("double").alias("provincemidconsumption"))

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值