数仓(四)

AzkabanWebServer启动几秒后被kill
连接集群数据库
找到executors表中的active,手动改为1,再重新启动AzkabanWebServer即可
在这里插入图片描述

即席查询

kylin
Kylin的主要特点包括支持SQL接口、支持超大规模数据集、亚秒级响应、可伸缩性、高吞吐率、BI工具集成等。

kylin架构
在这里插入图片描述

1)标准SQL接口:Kylin是以标准的SQL作为对外服务的接口。

2)支持超大数据集:Kylin对于大数据的支撑能力可能是目前所有技术中最为领先的。早在2015年eBay的生产环境中就能支持百亿记录的秒级查询,之后在移动的应用场景中又有了千亿记录秒级查询的案例。

3)亚秒级响应:Kylin拥有优异的查询相应速度,这点得益于预计算,很多复杂的计算,比如连接、聚合,在离线的预计算过程中就已经完成,这大大降低了查询时刻所需的计算量,提高了响应速度。

4)可伸缩性和高吞吐率:单节点Kylin可实现每秒70个查询,还可以搭建Kylin的集群。

5)BI工具集成
Kylin可以与现有的BI工具集成,具体包括如下内容。
ODBC:与Tableau、Excel、PowerBI等工具集成
JDBC:与Saiku、BIRT等Java工具集成
RestAPI:与JavaScript、Web网页集成

也可以使用Zepplin来访问Kylin服务

启动kylin前要先启动hadoop(hdfs,yarn,jobhistoryserver)、Zookeeper、Hbase
hbase群起方法:在hadoop102的/opt/module/hbase目录下:bin/start-hbase.sh
启动kylin:在/opt/module/kylin目录下:bin/kylin.sh start
kylin的web页面:hadoop102:7070
用户名为ADMIN,密码为KYLIN
关闭kylin:在hadoop102的/opt/module/kylin目录下,bin/kylin.sh stop

presto
presto是一个开源的分布式SQL查询引擎,数据量支持GB到PB字节,主要用来处理秒级查询的场景。
虽然presto开以解析SQL,但它不是一个标准的数据库。不是MySQL、Oracle的代替品,也不能用来处理在线事物(OLTP)。

presto架构
在这里插入图片描述
presto优缺点
优点:
(一)presto基于内存运算,减少了硬盘IO,计算更快。
(二)能够连接多个数据源,跨数据源连表查,如从hive查询大量网站访问记录,然后从MySQL中匹配出设备信息。
缺点:
presto能够处理PB级别的海量数据分析,但presto并不是吧PB级数据都放在内存中计算的,是边读数据边计算,再清内存,再读数据再计算,这种耗的内存并不高。但是连表查,就可能产生大量的临时数据,因此速度会变慢。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值