数据仓库【用户行为数仓】06:【dwd层】明细数据层:清洗ods层之后的数据

本文详细介绍了如何在数据仓库的dwd层构建用户行为相关的明细数据表,包括dwd_user_active、dwd_click_good、dwd_good_item、dwd_good_list和dwd_app_close等,通过清洗ods层数据,去除异常值,对数据进行去重和过滤,以SQL实现数据清洗,并提供了表初始化和每日分区数据添加的脚本。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、dwd层分析

下面我们来创建dwd层:
针对ods层表中的数据进行清洗,参考数据清洗规则,按照实际情况对数据进行清洗。

注意:如果清洗规则使用SQL可以实现,那么就使用SQL实现数据清洗,如果清洗的规则使用SQL实现起来非常麻烦,或者使用SQL压根无法实现,此时就可以考虑需要使用MapReduce代码或者Spark代码对数据进行清洗了。

由于我们这里采集的数据还是比较规整的,可以使用SQL实现,所以我们就直接使用SQL实现数据清洗了。

二、创建dwd层数据库

在hive中创建数据库dwd_mall

create database dwd_mall;
show databases;

在这里插入图片描述

三、创建dwd层的表

注意:

1、原始json数据中的用户id字段名称为uid,但是在商品订单数据中用户id字段名称为user_id,这块需要注意一下,在实际工作中会有这种情况,客户端和服务端数据的个别字段名称不一致ÿ
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

做一个有趣的人Zz

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值