AzkabanWebServer启动几秒后被kill
连接集群数据库
找到executors表中的active,手动改为1,再重新启动AzkabanWebServer即可
即席查询
kylin
Kylin的主要特点包括支持SQL接口、支持超大规模数据集、亚秒级响应、可伸缩性、高吞吐率、BI工具集成等。
kylin架构
1)标准SQL接口:Kylin是以标准的SQL作为对外服务的接口。
2)支持超大数据集:Kylin对于大数据的支撑能力可能是目前所有技术中最为领先的。早在2015年eBay的生产环境中就能支持百亿记录的秒级查询,之后在移动的应用场景中又有了千亿记录秒级查询的案例。
3)亚秒级响应:Kylin拥有优异的查询相应速度,这点得益于预计算,很多复杂的计算,比如连接、聚合,在离线的预计算过程中就已经完成,这大大降低了查询时刻所需的计算量,提高了响应速度。
4)可伸缩性和高吞吐率:单节点Kylin可实现每秒70个查询,还可以搭建Kylin的集群。
5)BI工具集成
Kylin可以与现有的BI工具集成,具体包括如下内容。
ODBC:与Tableau、Excel、PowerBI等工具集成
JDBC:与Saiku、BIRT等Java工具集成
RestAPI:与JavaScript、Web网页集成
也可以使用Zepplin来访问Kylin服务
启动kylin前要先启动hadoop(hdfs,yarn,jobhistoryserver)、Zookeeper、Hbase
hbase群起方法:在hadoop102的/opt/module/hbase目录下:bin/start-hbase.sh
启动kylin:在/opt/module/kylin目录下:bin/kylin.sh start
kylin的web页面:hadoop102:7070
用户名为ADMIN,密码为KYLIN
关闭kylin:在hadoop102的/opt/module/kylin目录下,bin/kylin.sh stop
presto
presto是一个开源的分布式SQL查询引擎,数据量支持GB到PB字节,主要用来处理秒级查询的场景。
虽然presto开以解析SQL,但它不是一个标准的数据库。不是MySQL、Oracle的代替品,也不能用来处理在线事物(OLTP)。
presto架构
presto优缺点
优点:
(一)presto基于内存运算,减少了硬盘IO,计算更快。
(二)能够连接多个数据源,跨数据源连表查,如从hive查询大量网站访问记录,然后从MySQL中匹配出设备信息。
缺点:
presto能够处理PB级别的海量数据分析,但presto并不是吧PB级数据都放在内存中计算的,是边读数据边计算,再清内存,再读数据再计算,这种耗的内存并不高。但是连表查,就可能产生大量的临时数据,因此速度会变慢。