电商数仓项目系列一:数据仓库简介

电商数据仓库项目总结 数据采集:Flume,Kafka,Datax数据存储:Mysql,HDFS数据计算:Hive,Saprk任务调度:DolphinScheduler数据可视化:Superset高可用:Zookeeper别克商城分PC、WAP、微信小程序埋点PC、WAP为自动埋点 微信小程序为手动埋点浏览(页面加载的时候)点击(点击页面某个点位)停留(近入下一个页面或者离开当前页面时在当前页面的停留时间)曝光 (开屏、轮播等显示日志) 用来算 CTR(Click-Through-Rate) 点击通过率留资、订单关联 (在 阅读详情

一、数仓定义

数据仓库顾名思义就是存储数据的仓库,不同于业务数据库用作业务支撑,数据仓库是分析系统最核心的组成部分,使用这些数据为我们的报表分析(各种销售指标),广告推广(在什么地方、什么渠道投放广告),app、网站优化(商品如何展示,排列),个性化推荐等服务领域提供数据支持。既然是数据仓库,那么数据仓库的数据从哪里来?在数据仓库中怎么存储?如何将源数据存储到数仓中,这些数据将来有什么用?下面分别说明:

1. 数据源

主要分成下面几类:第一类是业务系统数据;第二部分是日志(用户行为数据,主要用于推荐系统,网站优化)。还有爬虫数据(目前没有接触过),这些都称之为源数据

2. 数据的存储

采用分层的架构存储,第一个目的是通过空间换时间的方式获取性能,从dws层查询数据肯定会比dwd层查询数据更快,因为我们做了汇总,而dwd层需要join更多的表。第二个目的是将复杂的问题简单化,让每一步都清晰简单,更加利于系统的建设和维护。

                                                                         

3. ETL

 知道了怎么存储,还需要把源数据存放到我们的数据仓库中,这个过程就叫做ETL。

4. 服务系统

数据仓库中数据的用途主要有:报表系统、用户画像、推荐系统、风控系统、机器学习等,下面是数仓系统的整体架构图。

    

 

大数据项目之电商数仓(2业务数据采集平台)V6.1.2 第1章 电商业务简介 1.1 电商业务流程 1.2电商常识(SKU、SPU) SKU=Stock Keeping Unit(库存量基本单位)。现在已经被引申为产品统一编号的简称,每种产品均对应有唯一的SKU号。 SPU(Standard Product Unit):是商品信息聚合的最小单位,是一组可复用、易检索的标准化信息集合。 例如:iPhoneX手机就是SPU。一台银色、128G内存的... 阅读详情

相关推荐

电商数仓(dwt 层)

一、dwt 层介绍 dws 层统计的是每日数据,dws 层数据服务 dwt 层数据,dwt 层统计的是不同主题的累积数据。 二、数据表 2.1 设备主题宽表 dwt_uv_topic 1、数据来源 dwt_uv_topic、dws_uv_detail_daycount。 2、建表 drop table if exists dwt_uv_topic; create external table d...

a1786742005的博客 7104

1、电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume

电商数仓(用户行为采集平台)数据仓库概念、用户行为日志、业务数据、模拟数据、用户行为数据采集模块、日志采集Flume

星光不问赶路人,岁月不负有心人 3577

电商数仓项目总结

一、项目整体架构 二、数据说明 2.1 用户行为数据 1、启动日志数据 是一个单 json 数据 2、事件日志数据 组成:时间戳、公共字段、事件日志 事件: (1) 商品列表 (2) 商品点击 (3) 商品详情 (4) 广告 (5) 消息通知 (6) 用户后台活跃 (7) 评论 (8) 收藏 (9) 点赞 (10) 错误日志 2.2 业务数据 1、订单表 2、订单详情表 3、sku 商品表 4、...

a1786742005的博客 6727

电商数仓项目(一)

电商数仓项目(一) 一.数据仓库概念 1.业务数据 就是各行业在处理事务过程中产生的数据。 2.用户行为数据 用户在使用产品过程中,与客户端产品交互过程中产生的数据。 3.数据仓库 为企业制定决策,提供数据支持的。可以帮助企业,改进业务流程,提高产品质量 二.数仓分层 1.数仓分层 ODS层:原始数据层。存放原始数据,直接加载原始日志、数据、数据保持原貌不做处理。 DWD层:明细数据层。对ODS层数据进行清洗(去除空值,脏数据,超过极限范围的数据)、维度退化、脱敏等。 DWS层:服务数据层。以DWD为

qq_38650982的博客 3186

数据仓库之电商数仓-- 3.1、电商数据仓库系统(ODS层、DIM层、DWD层)

目录一、数仓分层1.1 为什么要分层1.2 数据集市与数据仓库概念1.3 数仓命名规范1.3.1 表命名1.3.2 脚本命名1.3.3 表字段类型二、数仓理论2.1 范式理论2.1.1 范式概念2.1.2 函数依赖2.1.3 三范式区分2.2 关系建模与维度建模2.2.1 关系建模2.2.2 维度建模⭐️2.3 维度表和事实表⭐️2.3.1 维度表2.3.2 事实表2.4 维度模型分类2.5 数据仓库建模⭐️????2.5.1 ODS层2.5.2 DIM层和DWD层2.5.3 DWS层与DWT层2.5.4

FunnyPrince_的博客 1万+

数据仓库之电商数仓-- 1、用户行为数据采集

加油干 hhhhhh

FunnyPrince_的博客 4027

大数据电商数仓分析项目

本项目为大数据电商数仓分析项目,项目目前具体分为两大部分,第一部分:模拟常规电商数仓分析流程,利用hadoop相关生态mapreduce、spark等进行数据清洗,再通过hive、spark统计对用户行为日志及区域热门商品进行统计,支持数据导出及可视化,最终支持用户决策。第二部分:依据业务数据实现离线业务数仓导入及分层实现离线数仓搭建,统计相关业务指标,实时数仓部分后续更新。 .........

专注大数据与人工智能技术分享,欢迎私信加群互相学习! 1万+

大数据项目之电商数仓一(用户行为采集)

是为企业所有决策制定过程,提供所有系统数据支持的战略集合。

2301_79478575的博客 1479

大数据电商数仓项目

本文仅供参考学习,转发自https://blog.youkuaiyun.com/a1786742005/article/details/105833521 一、项目整体架构 二、数据说明 2.1 用户行为数据 1、启动日志数据 是一个单 json 数据 2、事件日志数据 组成:时间戳、公共字段、事件日志 事件: (1) 商品列表 (2) 商品点击 (3) 商品详情 (4) 广告 (5) 消息通知 (6) 用户后台活跃 (7) 评论 (8) 收藏 (9) 点赞 (10) 错误日志 2.2 业务数据 1、订

专注大数据与人工智能技术分享,欢迎私信加群互相学习! 4336

尚硅谷大数据项目【电商数仓5.0】学习笔记

尚硅谷大数据项目【电商数仓5.0】学习笔记

yiluohan0307的专栏 3981

大数据电商数仓项目--实战(一)数据准备

Hive 引擎包括:默认MR ,tez ,sparkHive on Spark 既作为 存储 元数据 又负责 SQL的解析优化 语法是HQL语法Spark on Hive :Hive只作为存储元数据,Spark 负责SQL解析优化 语法是Spark SQL语法什么是拉链表:拉链表,记录每条信息的生命周期,一旦一条记录的生命周期结束,就重新开始一条新的记录,并把当前日期放入生效开始日期。

m0_73745224的博客 2197

【亲测免费】 大数据项目之电商数仓-代码

大数据项目之电商数仓-代码 【下载地址】大数据项目之电商数仓-代码 欢迎来到“大数据项目之电商数仓”代码仓库。本仓库是专为那些对大数据处理、数据仓库建设以及电商领域数据分析感兴趣的开发者准备的实践资源。项目聚焦于构建一个电商行业的数据仓库,旨在通过实际的代码案例,展示如何在大数据环境下整合、清洗、存储及分析电商数据,从而...

gitblog_09769的博客 808

电商数仓建模案例

电商数仓建模案例

大数据知识梳理 3163

电商数仓项目:大体过程以及配置需求

1. 成果回顾​搭建了一套完整的电商数仓体系,支持用户行为、销售数据的全维度分析。​实现数据从采集到可视化的自动化流程,日处理数据量达 10 万 + 条。​产出的可视化报表已应用于运营决策,帮助优化促销活动,GMV 提升 15%。​。

weixin_70847910的博客 1408

大数据项目之电商数仓(用户行为数据仓库)

第1章 数仓分层概念 1.1 为什么要分层 1.2 分层结构图 数据分层原理 1、ODS层(原始数据层) 原始数据层,存放原始数据,直接加载原始日志、数据,数据保持原貌不做处理。 2、DWD层(明细数据层) 结构和粒度与ODS层保持一致,对ODS层数据进行清洗(去除空值,脏数据,超过极限范围的数据),也有公司叫DWI。 3、DWS层(服务数据层) 以DWD为...

魔法革1996 4075

电商数仓(ads 层)

一、ads 层介绍 对电商系统各大主题指标分别进行分析,本项目中分析了四大主题·:设备主题、会员主题、商品主题、营销主题。 二、业务术语 1、用户 用户以设备为判断标准,在移动统计中,每个独立设备认为是一个独立用户。Android 系统根据 IMEI 号,IOS 系统根据 OpenUDID 来标识一个独立用户,每部手机一个用户。 2、新增用户 首次联网使用应用的用户。如果一个用户首次打开某 APP...

a1786742005的博客 9375

大数据项目之电商数仓、数据仓库概念、项目需求及架构设计

比如用户在电商网站中登录、下单、支付等过程中,需要和网站后台数据库进行增删改查交互,产生的数据就是业务数据。:用户在使用产品过程中,通过埋点收集与客户端产品交互过程中产生的数据,并发往日志服务器进行保存。数据仓库,并不是数据的最终目的地,而是为数据最终的目的地做好准备。这些准备包括对数据的:备份、清洗、聚合、统计等。(2)CDH:国内使用最多的版本,但CM不开源,今年开始收费,一个节点1万美金/年。2、框架版本如何选型(Apache、CDH、HDP)

Redamancy06的博客 7173

大数据—电商数仓项目

一、课程简介随着技术的飞速发展,经过多年的数据积累,各互联网公司已保存了海量的原始数据和各种业务数据,所以数据仓库技术是各大公司目前都需要着重发展投入的技术领域。数据仓库是面向分析的集成化数据环境,为企业所有决策制定过程,提供系统数据支持的战略集合。通过对数据仓库中数据的分析,可以帮助企业改进业务流程、控制成本、提高产品质量等。二、课程内容本次精心打造的数仓项目的课程,从项目架构的搭建,到数据采集模块的设计、数仓架构的设计、实战需求实现、即席查询的实现,我们针对国内目前广泛使用的Apache原生框架和CDH版本框架进行了分别介绍,Apache原生框架介绍中涉及到的技术框架包括Flume、Kafka、Sqoop、MySql、HDFS、Hive、Tez、Spark、Presto、Druid等,CDH版本框架讲解包括CM的安装部署、Hadoop、Zookeeper、Hive、Flume、Kafka、Oozie、Impala、HUE、Kudu、Spark的安装配置,透彻了解不同版本框架的区别联系,将大数据全生态系统前沿技术一网打尽。在过程中对大数据生态体系进行了系统的讲解,对实际企业数仓项目中

上一篇: git多人协作的日常6种场景
下一篇: NAT详解:基本原理、穿越技术(P2P打洞)、端口老化等
我能想到的
博客等级 码龄12年 44粉丝 60原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值