ETL是什么(最有意思的比喻)

ETL介绍与ETL工具比较 ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过萃取(extract)、转置(transform)、加载(load)至目的端的过程。ETL一词较常用在数据仓库,但其对象并不限于数据仓库。 ETL负责将分布的、异构数据源中的数据如关系数据、 平面数据文件等抽取到临时中间层后进行清洗、转换、集成,最后加载到数据仓库或数据集市中,成为联机分 阅读详情

转载:https://blog.youkuaiyun.com/tuyi541601377/article/details/41011275/


Extraction-Transformation-Loading的缩写,中文名称为数据提取、转换和加载。不好理解,那ETL到底是什么?先讲一个故事吧。

       阿杰结婚一年了,事业家庭都稳定了下来,准备要生BB了,父母听到这个消息,非常高兴,坚持要从另一个城市搬过来帮忙。但是,阿杰现在住的地方是一个一房一厅,有点小,所以,得搬一个大点的房子。于是,阿杰找到了一间新房子:三房两厅两卫,还有一个大阳台。

       终于落实好,就要准备搬家了。一个周末,小夫妻两个人将旧住所中需要的东西打好包,而一些不再需要的东西就只有丢掉了,忙碌了整整一个上午。中午,搬家公司来了,将打包的东西运到新住所,接下来,两个人又开始忙碌,将打包的东西解开,重新整理,摆放。原来的洗衣机是挤在卫生间的,现在终于可以放到阳台上了......。

       下午,父母的东西也运过来了。要将他们个人的东西放到另一个卧室,对了,他们还带了一个电饭煲,阿杰原来也有一个的,这个还得想办法处理一下......好了,好像还缺点什么,需要再去采购些物品......

       经过周末两天的忙碌,终于,按照自己和父母的喜好,重新摆放好了,真舒适啊:一进客厅,黑白色调的沙发、茶几和电视显的素雅而高贵,特别是墙上的照片,从两个人认识、恋爱到结婚,讲述着一个迷人的爱情故事。餐桌上摆着父母带来的青花瓷茶具,泡出来的茶中溢着岁月的沉香;进到主卧,大大的梳妆台和衣柜是女主人的最爱,而床头的书架,则是男主人的地盘......进到客卧,深色的衣柜和床,有些复古的感觉,窗台上的白玉兰花沐浴着阳光,这是父母共同的爱好......

       阿杰从此过上了幸福的生活。

       好吧,故事讲完了。这个故事是在讲屌丝逆袭,赢得白富美芳心,然后比翼双飞的现代童话吗?还是房地产公司精心策划的广告?

       都不是,我们想用它来说说ETL是什么的。好吧,言归正传,我们重新来讲一遍故事。

       阿杰(已经使用的ERP)因为要生BB(正要实施的MES)加上父母(已经使用的HR)要过来,所以,需要换一套大的房子(DW数据仓库)。大房子会根据实际的需求进行规划(三房两厅两卫,还有一个大阳台)。


ETL就是搬家的过程。

         搬家第一步,我们要将旧住所的东西打包;第二步,我们叫来搬家公司将打包的东西运输到新住所;第三步,我们在新住所将打包的东西解开,重新整理,摆放。

         ETL主要有两种任务,一种是数据流任务,相当于将旧住所打包的东西运输到新住所;一种是清理任务,相当于在新住所重新整理摆放。

         打包的过程中已经将不需要的东西丢弃了,数据仓库也只将分析主题需要的表或字段才搬过去;我们打包的时候不会先想着哪些东西都是要放到新房子主卧的,再将这些东西全部放在一起打包。如果谁这样做,你一定认为他有强迫症。——想一想我们现在是如何开发报表的?是不是要根据最终的结果,将所有用到的东西通过复杂的存贮过程一次性展示出来?——其实,ETL的过程比写报表的过程,要简单许多,你相信吗?反正我是信了。

         不管原来是如何摆放的,我们在新的住所,会重新摆放,就好象原来的洗衣机是挤在卫生间的,现在终于可以放到阳台上了。而不同的业务系统,会有许多相同的基础资料,如都有部门这个基础资料,但大家的编码或名称可能不一样,这就需要额外处理一下,就好象父母也带了一个电饭煲需要想办法处理一样。——我们总不能厨房里两个电饭煲同时使用吧?

         构建数据仓库时,总会有一些数据可能并不存在于某个业务系统中,如电商平台的数据,或者手工维护的预算数据。要使用这些数据,就需要额外导进去,就好象还缺点什么,需要再去采购些物品一样。

         阿杰小两口周末两天的忙碌是辛苦的,但也是值得的。ETL的意义或价值,就好象阿杰小两口的忙碌一样,是为了最后有一个舒适的新家。

         数据仓库构建好后,才有可能基于数据仓库来构建分析模型并根据自己的喜好展现最终的结果。客厅里一目了然的就是管理驾驶舱,既有ERP的信息(阿杰的电视),也有HR的信息(父母的茶具),而进到主卧,则好象进入到某个具体的分析主题一样;而进到客卧,则进入到了另外一个分析主题。

         ETL的质量决定了BI是否成功(阿杰从此过上了幸福的生活。)



ETL技术入门之ETL初认识 ETL(Extract-Transform-Load的缩写,即数据抽取、转换、装载的过程)作为BI/DW(Business Intelligence)的核心和灵魂,能够按照统一的规则集成并提高数据的价值,是负责完成数据从数据源向目标数据仓库转化的过程,是实施数据仓库的重要步骤。如果说数据仓库的模型设计是一座大厦的设计蓝图,数据是砖瓦的话,那么ETL就是建设大厦的过程。在整个项目中最难部分是用户需求 阅读详情

相关推荐

etl产品 etl 卖点

etl产品主流ETL产品:Ascential公司的Datastage(Datastage在2005年被IBM收购)、Informatica公司的Powercenter、 NCR Teradata公司的ETL Automation(一套ETL框架、主要关注“抽取”)。 ETL工具有:OWB(Oracle Warehouse Builder)、ODI(Oracle Data Integrator...

韩梦飞沙_韩亚飞 1515

什么是ETL?ETL是什么技术?

ETL是英文Extract-Transform-Load的缩写,用来描述将数据从源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,它能够对各种分布的、异构的源数据(如关系数据)进行抽取,按照预先设计的规则将不完整数据、重复数据以及错误数据等“脏"数据内容进行清洗,得到符合要求的“干净”数据,并加载到数据仓库中进行存储,这些“干净”数据就成为了数据分析、数据挖掘的基石。 ETL是实现商务智能(Business Intelligence,BI)的核心。一般情况下,ET

luckyfigo的博客 5万+

ETL架构

企业信息化建设过程中,业务系统各自为政、相互独立造成的“数据孤岛”现象尤为普遍,业务不集成、流程不互通、数据不共享……。这给企业进行数据的分析利用、报表开发等带来了巨大困难。在此情况下,数据仓库的建设就显得必不可少了,将相互分离的业务系统的数据源整合在一起,建立一个统一的数据采集、处理、存储、分发、共享中心,实现企业全局数据的系统化运作管理,为DSS(决策支持系统)、BI(商务智能)、经营分析系统...

不负青春、不负卿 6828

ETL简介

合理的业务模型设计对ETL至关重要。数据仓库是企业惟一、真实、可靠的综合数据平台。数据仓库的设计建模一般都依照三范式、星型模型、雪花模型,无论哪种设计思想,都应该最大化地涵盖关键业务数据,把运营环境中杂乱无序的数据结构统一成为合理的、关联的、分析型的新结构,而ETL则会依照模型的定义去提取数据源,进行转换、清洗,并最终加载到目标数据仓库中。模型的重要之处在于对数据做。

顺其自然~专栏 4624

什么是ETL

(Extract-Transform-Load)是一种数据集成过程,常用于数据仓库、数据分析、数据清洗等场景。ETL的主要目标是从不同数据源提取数据,进行清洗、转换,然后加载到目标数据仓库或分析系统。所描述的过程,一般常见的作法包含ETL或是ELT,并且混合使用。通常越大量的数据、复杂的转换逻辑、目的端为较强运算能力的数据库,越偏向ELT,以便运用目的端数据库的平行处理能力。

qq_45256352的博客 1347

ETL解决方案之ETL子系统详解

ETL解决方案之ETL子系统详解 一 前言-ETL子系统由来 作者kimball在2002年出版的《The data warehouse etl toolkit》定义了38个ETL子系统。 在2008年出版的《The data warehouse lifecycle toolkit》中,ETL子系统被重构为34种子系统。本文就详细介绍这34个ETL子

徐长亮的专栏 4639

ETL详解--数据仓库技术

ETL,是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,是数据仓库的生命线。它是一种数据处理过程,用于从不同的数据源中提取数据、对数据进行转换和清洗,并将处理后的数据加载到目标系统或数据仓库中。 ETL的优点 常用的ETL工具

weixin_46653974的博客 9328

低成本实现webhook接收端[python]

Webook本质上也是API,只不过是反向调用,即前端不主动发送请求,完全由后端推送。简单来说,Webhook是一个接受HTTP POST或是GET,PUT,DELETE的URL,一个实现了Webhook的API提供商就是在当事件发生的时候会向配置的URL发送信息,与请求-响应式不同,使用Webhook可以实时接收到变化。Ps:Webhook可能会发出大量的请求,确保接受的URL不被泄露或者应用能及时处理这些请求。

锡城小凯的博客 1万+

数据仓库中的ETL,到底是什么

“ETL是建立数据仓库最重要的处理过程,是Extract、Transform、Load三个英文单词首字母的简写,中文意为抽取、转换、装载。” 数据的ETL过程 在日常的开发或交流中,会多次提到了ETL一词,它是Extract、Transform、Load三个英文单词首字母的简写,中文意为抽取、转换、装载。ETL是建立数据仓库最重要的处理过程,也是最体现工作量的环节,一般会占到整个数据仓库项目工作量的一半以上。 其中: 抽取:从操作型数据源获取数据。 转...

远行客的博客 7430

WPF数据可视化:LiveCharts自定义X轴与Y轴的5个实战技巧(附完整代码)

本文详细介绍了在WPF应用中使用LiveCharts进行数据可视化时,自定义X轴与Y轴的5个核心实战技巧。内容涵盖精确控制刻度步距、深度定制视觉样式、实现多轴布局对比、优化显示空间以及构建响应式动态轴,并提供了完整的C#和XAML代码示例,帮助开发者创建专业且用户体验出色的图表。

moss5的博客 691

保姆级教程:在爱快iKuai虚拟机里装OpenWrt旁路由,实现去广告和特殊功能

本文提供在爱快iKuai虚拟机中安装OpenWrt旁路由的详细教程,帮助用户实现去广告和特殊功能扩展。通过分步指导,包括虚拟机配置、网络设置和功能优化,打造稳定高效的家庭网络环境,特别适合软路由爱好者和网络管理员。

weixin_31364787的博客 825

什么是ETL?5分钟看完秒懂

什么是ETL? 一、ETL概念之背景 随着企业的发展,目前的业务线越来越复杂,各个业务系统独立运营。例如:CRM系统只会生产CRM的 数据;Billing只会生产Billing的数据。各业务系统之间只关心自己的数据,导致各业务系统之间数据相互独立,互不相通。一旦业务系统之间进行数据交互,只能通过传统的webservice接口之间进行数据通信。该种方式对人力成本、时间成本要求比较高。也就是说:需要成熟的开发人员才能编写响应的webservice接口进行数据通信。而ETL的诞生就解决了此类问题,企业不需要技术很

weixin_44846436的博客 6245

紫光同创国产FPGA学习之Fabric Debugger

文章从紫光同创参考书拷贝过来的。因为我用的时候,看了一下就会用了(纯粹只是会用了,默认和xilinx的一样),没有看教程。先更新点文本,后面在写程序。 一、      软件简介 Fabric Debugger是一款界面化的FPGA芯片调试工具,能够针对公司目前以及未来的FPGA芯片进行在线调试。本软件直接与JtagHub、DebugCore交互,能够实时的配置目标FPGA、设置触发条件并且观测结...

my_share的专栏 6391

什么是ETL?ETL知识详解

阅读之前看这里????:博主是正在进行数据分析师求职的一员,博客记录的是在学习和求职过程中一些总结,也希望和大家一起进步,在记录之时,未免存在很多疏漏和不全,如有问题,还请私聊博主指正。 博客地址:天阑之蓝的博客,学习过程中不免有困难和迷茫,希望大家都能在这学习的过程中肯定自己,超越自己,最终创造自己。 目录1.ETL的定义2.数据的抽取(Extract)3.数据的清洗转换(Cleaning、Transform)4.ETL日志、警告发送5.ETL的几个特点, 1.ETL的定义 ETL是将业务系统的数据经过

天阑之蓝的博客 1万+

三电平逆变器LC滤波设计避坑指南:从SVPWM谐波到Simulink仿真验证

本文详细解析了三电平逆变器LC滤波设计中的关键问题,从SVPWM谐波特性到Simulink仿真验证,提供了800V/10kW系统的参数计算方法和优化技巧。通过实际案例和仿真配置示例,帮助工程师避免常见设计误区,提升电能质量和系统稳定性。

weixin_29261711的博客 173

大数据分析案例-基于随机森林算法构建二手房价格预测模型

通过应用随机森林算法,我们希望建立一个能够有效预测二手房价格的模型。这个模型可以基于各种因素,如区域位置、房屋属性、市场供需等,来预测未来某一时间点的房价。通过提高预测准确性,我们可以更好地把握房地产市场动态,为决策提供更有价值的参考。揭示影响二手房价格的因素及其影响方式:通过分析随机森林算法生成的模型,我们可以进一步了解哪些因素对二手房价格有重要影响,以及这些因素如何影响房价。这有助于我们深入理解房地产市场的运行规律,为制定更为有效的市场策略提供依据。

m0_64336780的博客 1万+

ETL流程、数据流图及ETL过程解决方案

文章目录 ◇ETL定义 ◇模式及比较 ◇ETL过程 ◇问题分析 ◇现状分析 一、ETL定义 ETL定义涉及以下内容: ETL定义 ETL前提 ETL原则 1.ETL定义 ◆定义: 数据的抽取(Extract)、转换(Transform)、装载(Load)的过程 ◆目标: 数据优化。以最小代价(包括对日常操作的影响和对技能的要求)将针对日常业务操作的数据转化为针对数据仓库而存储的决策支持型数据 2.ETL的前提 确定ETL范围 ·通过对目标表信息的收集,确定ETL的范围 选择ETL工具 ·考虑资金 ·运

DoubleJing的博客 1万+

PyTorch实战:卷积神经网络详解+Python实现卷积神经网络Cifar10彩色图片分类

PyTorch可以说是三大主流框架中最适合初学者学习的了,相较于其他主流框架,PyTorch的简单易用性使其成为初学者们的首选。这样我想要强调的一点是,框架可以类比为编程语言,仅为我们实现项目效果的工具,也就是我们造车使用的轮子,我们重点需要的是理解如何使用Torch去实现功能而不要过度在意轮子是要怎么做出来的,那样会牵扯我们太多学习时间。以后就出一系列专门细解深度学习框架的文章,但是那是较后期我们对深度学习的理论知识和实践操作都比较熟悉才好开始学习,现阶段我们最需要的是学会如何使用这些工具。

master_hunter的博客 8933

ETL是什么,有哪些ETL工具?就业前景如何?

主流的etl工具有Sqoop、DataX、Canal、flume、Logstash、kettle、DataStage、Informatica、Talend等,语言有强悍的SQL、Shell、Python、Java、Scala等。现如今,越来越多的企业开始涉足并重视大数据,各大银行、金融、电信、电力、政府、证券、医院、大学院校及大型制造业等都急需大数据人才。Kettle是一款国外免费开源的、可视化的、功能强大的ETL工具,纯java编写,可以在Windows、Linux、Unix上运行,数据抽取高效稳定。

weixin_54106890的博客 2687

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

最全面的ETL工具选型指南

尽管现代数据技术和架构的发展,如数据湖、数据流处理等,提供了新的数据集成和处理方式,但ETL仍然是企业数据管理和集成的关键工具。

RestCloud微服务治理及快速开发平台 1285

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

ETL讲解,到底什么是ETL

前述: ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据。 ETL是BI项目重要的一个环节。 通常情况下,在BI项目中ETL会花掉整个项目至少1/3的时间,ETL设计的好坏直接关接到BI项目的成败。 ETL的设计分三部分:数据抽取、数据的清洗转换、数据的加载。在设计ETL的时候我们也是从这三部分出发...

xucong996的博客 2328

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

上一篇: 数据库中的存储过程
下一篇: ajax动态加载网页抓取(转载)
djs123DJS
博客等级 码龄9年 49粉丝 137原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值