Kylin 3.1.0新版本安装教程

雪花算法的实现原理 阅读详情

Kylin 3.1.0新版本安装教程

1. 背景

  1. 在大数据开发中,数据处理一般分为离线和实时数据处理。而在离线数据处理中,数据需求从指标维度来看,又可以进一步划分:
  • 固定维度
  • 灵活多维度(维度最大数量固定,但维度之间会有组合)
  • 唯独不确定
  1. 针对上述灵活多维度(维度最大数量固定,但维度之间会有组合),传统上可以使用hive,spark sqll等计算引擎做数据分析处理。

如hive有with cube,grouping sets,roll up来做多维度计算处理。但数据计算处理之后为了保证数据查询快速,还需要导入到hbase,mysql等快速访问数据库中,比较麻烦。
这时候就可以引入kylin,kylin可以直接从hive表中读取数据,并根据需求做自定义多维数据分析(数据分析引擎可以使用mapreduce,spark,flink,默认是mapreduce)。计算后结果会存入hbase,并且会对hbase的rowkey做优化。

2. 安装

  1. 确保有如下软件以及环境变量
    vi /etc/profile
export JAVA_HOME=/opt/apps/jdk1.8.0_191/
export HADOOP_HOME=/opt/apps/hadoop-3.1.1
export HIVE_HOME=/opt/apps/apache-hive-3.1.2-bin
export HBASE_HOME=/opt/apps/hbase-2.0.6
export KYLIN_HOME=/opt/apps/kylin-3.1.0/
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HBASE_HOME/bin:$HIVE_HOME/bin

注意,因为技术体系采用apache开源套餐,上述软件版本是实际验证兼容可用于企业开发的版本,并且比CDH推荐的相对新一些。

  1. hbase-site.xml,将zookeeper地址中端口号去掉
<property>
<name>hbase.zookeeper.quorum</name>
<value>doit01,doit02,doit03</value>
</property>

这是因为kylin会自己给主机名后面加上2181默认端口号,如果这里加了,主机名就变成如doit02:2181了,这时候就会报找不到主机名。
另外,不用担心不写2181会找不到端口号,因为zookeeper的默认端口号就是2181

  1. 检查kylin运行环境
    kylin解压缩安装包的bin目录下
/bin/check-env.sh

实际,每次启动kylin,都会调用这个脚本做检查,赞!!!
注意,这是一个中国人贡献者占主导的顶级apache开源项目,👍

  1. 启动

注意,保证hdfs,zookeeper,habase,yarn都正常启动。
yarn启动是因为kylin默认的计算引擎是就是mapreduce,任务执行时需要有yarn

 bin/kylin.sh start

http://:7070/kylin 通过这个网页就可以访问
初始用户名和密码是 ADMIN/KYLIN

3. 官方文档

  1. http://kylin.apache.org/cn/docs/install/index.html
  2. 在这里插入图片描述
  3. 注意,kylin可以单机,也可以集群模式部署。
雪花算法 Snowflake 生成分布式自增 ID 详解 文章目录1、雪花算法概述2、雪花算法结构3、雪花算法生成的 ID 性质4、雪花算法的优点5、雪花算法的缺点 1、雪花算法概述 Snowflake 是 twitter 开发的全局唯一 ID 生成服务。 Twitter 的分布式雪花算法 Snowflake,经测试 Snowflake 每秒能够产生 26 万个自增可排序的ID twitter 的 Snowflake 生 成ID能够按照时间有序生成 Snowflake 算法生成 id 的结果是一 个 64bit 大小的整数, 为一个 Long 型(转换成字符串后 阅读详情

相关推荐

雪花算法详解(原理优缺点及代码实现)

雪花算法详解(原理优缺点及代码实现)

mikechen的互联网架构 5671

雪花算法(Snowflake)

雪花算法(Snowflake)是一种生成全局唯一ID的分布式算法。它的主要功能是在分布式系统中生成一个全局唯一的ID,且ID是按照时间有序递增的。

qq_63161848的博客 1万+

雪花算法(Snowflake Algorithm)实现原理与详解

雪花算法是Twitter开源的分布式ID生成算法,通过64位long型数字生成全局唯一ID。其设计原理包括时间戳、机器ID和序列号三部分,确保ID按时间递增且全局唯一。实现上,通过位运算和自增序列在毫秒级内生成不同ID,有效避免ID冲突,并支持多数据中心和多工作机器的场景。

Elusia-ForEver 3078

分布式主键id生成工具类-雪花算法

public class SnowflakeIdGen { // ==============================Fields=========================================== /** 开始时间截 (2018-01-01 00:00:00) */ private final long twepoch = 15147360000...

随风*惊云的博客 943

分布式自增ID算法---雪花算法 (snowflake,Java版)---算法001

一般情况,实现全局唯一ID,有三种方案,分别是通过中间件方式、UUID、雪花算法。   方案一,通过中间件方式,可以是把数据库或者redis缓存作为媒介,从中间件获取ID。这种呢,优点是可以体现全局的递增趋势(优点只能想到这个),缺点呢,倒是一大堆,比如,依赖中间件,假如中间件挂了,就不能提供服务了;依赖中间件的写入和事务,会影响效率;数据量大了的话,你还得考虑部署集群,考虑走代理。这样的话,感觉问题复杂化了   方案二,通过UUID的方式,java.util.UUID就提供了获取UUID的方法,使用U

添柴程序猿的专栏 2537

【雪花算法的实现原理】

雪花算法(Snowflake)是由Twitter开源的一种分布式ID生成算法,其核心思想是将64位的long型ID分为四个部分,分别为:符号位、时间戳、工作机器ID、序列号。

Roc的博客 564

雪花算法的原理以及实现

有这么一种说法,自然界中并不存在两片完全一样的雪花的。每一片雪花都拥有自己漂亮独特的形状、独一无二。雪花算法也表示生成的ID如雪花般独一无二。雪花算法 (SnowFlake )算法,是 Twitter 开源的分布式 id 生成算法。其核心思想是:使用一个 64 bit 的 long 型的数字作为全局唯一 id。在分布式系统中的应用十分广泛,且ID 引入了时间戳,基本上保持自增的。

fhey的博客 2475

keil+Jlink GD32调试记录

Jlink+keil,GD32调试记录,踩坑及解决,持续更新。

SUN_BW的博客 2952

雪花算法的原理和 Java 实现

本文深入解析了分布式ID生成算法Snowflake的原理与实现。Snowflake将64位ID划分为时间戳(41位)、机器ID(10位)和序列号(12位)三部分,实现了高性能、趋势递增的ID生成。文章详细介绍了其Java实现方案,包括核心参数配置、ID生成逻辑、时钟回拨处理等关键问题,并提供了完整的优化版代码实现。同时对比了Snowflake与UUID、数据库自增等其他ID生成方案的优缺点,指出其依赖系统时钟、节点容量有限等局限性。最后总结了Snowflake在分布式系统中的适用场景和优化方向,为开发者提供

油墨香^-^的博客 522

基于PINN的一个简单的求解偏微分方程实例

本人是做化工模拟的一名学生,最近在学习PINN(Physics-Informed Neural Networks,物理信息神经网络)对管道动力学进行建模研究,PINN由于其对机理与数据的良好兼顾性非常热门,本文是作者对PINN入门研究过程的一个练手小题目,main code也是作者代码是基于pytorch2.6.0写的,发上来供各位参考,欢迎研究管道动力学和PINN的小伙伴一起讨论~

weixin_64491760的博客 1740

【模型构建器教程】教你在ArcGIS中如何按照字段值批量导出shp文件

【模型构建器教程】教你在ArcGIS中如何按照字段值批量导出shp文件

weixin_45469245的博客 6454

雪花算法基本原理与实现

将一个系统拆分成朵儿子系统并分布到不同设配的过程”实现一个分布式系统,最核心的部分1.如何拆分、2.如何连接专注单一职责和功能的小型功能区块为基础,利用模组化的方式组合出的大象应用程序,各功能区块使用与语言无关的api集相互通信。如之前做单体项目中的一个表的数据主键id都是自增长的,例如mysql通过autoincrement来实现自增长,oracle通过序列来实现。但是当数据量上来,一般就会进行水平分表,阿里开发建议单表的数据了达到了500w的时候就需要进行分表。...

理想主义的花最终会盛开在浪漫主义的土壤里,我的热情永远不会熄灭在现实的平凡之中,我们终将上岸,阳光万里。 1189

使用moveit控制机械臂

位置设置:`target_pose.position.x = 0.12`, `target_pose.position.y = 0.41`, 和 `target_pose.position.z = 0.44` 分别设置了机械臂末端执行器的X, Y, 和 Z坐标。设定目标位置:`group.set_pose_target(target_pose)` 这一命令将之前定义的目标位置和姿态设置为当前机械臂组的目标,为接下来的路径规划做准备。在机械臂控制的过程中,设定精确的目标位置和姿态是实现精确操作的关键步骤。

realman_Rop的博客 3687

【Spring Cloud系列】 雪花算法原理及实现

分布式高并发的环境下,常见的就是12306节日订票,在大量用户同是抢购一个方向的票,毫秒级的时间下可能生成数万个订单,此时为确保生成订单ID的唯一性变得至关重要。此时秒杀环境下,不仅要保障ID唯一性,还得确保ID生成的优先度。其实雪花算法每一部分占用的比特位数量并不是固定死的。例如你的业务可能达不到 69 年之久,那么可用减少时间戳占用的位数,雪花算法服务需要部署的节点超过1024 台,那么可将减少的位数补充给机器码用。

记录总结工作过往 2603

华为OD机试 - 战士技能规划设计 - 数组(Python/JS/C/C++ 新系统 100分)

本专栏收录于《华为OD机试真题(Python/JS/C/C++)》。刷的越多,抽中的概率越大,私信哪吒,备注华为OD,加入华为OD刷题交流群,每一题都有详细的答题思路、详细的代码注释、3个测试用例、为什么这道题采用XX算法、XX算法的适用场景,发现新题目,随时更新。你为一款动作游戏设计战士角色的技能:战士每个技能会消耗不同能量,释放技能有 2 个约束:连续释放技能数量不能超过 m 个,技能能量总和不能超过能量上限 k;如果超过则必须中断当前技能,进入调息状态(即分段)。战士有一项爆发技巧:在单次战斗中有一次

学Java,找哪吒 227

家用扫地机器人实物拆解报告-从顶盖到每一颗螺丝 · 逐层拆解旗舰扫拖一体机器人

2026年旗舰扫拖机器人拆解报告:采用D形机身设计,主机重4.5kg,基站重12kg。核心配置包括RK3588S+STM32H743双处理器、8颗21700电池、LDS激光雷达和双摄像头+结构光导航系统。创新设计亮点:锥形滚刷自动排毛发、活水循环拖地系统、基站集成450W强力集尘和自动上下水模块(带三重防漏保护)。整机采用模块化设计,关键部件均支持快速更换,在密封性、防呆设计和降本增效方面展现出成熟的工程智慧。

智能硬件研发,欢迎交流 518

零基础理解雪花算法:从原理到简单实现

最近在学习分布式系统时接触到了雪花算法(Snowflake),作为Twitter开源的一种分布式ID生成方案,它完美解决了传统自增ID在分布式环境下的局限性。我输入"生成雪花算法Python实现",系统自动给出了包含时间戳处理、位运算等核心逻辑的代码骨架,大大降低了学习门槛。最惊喜的是部署体验——点击按钮就能把demo发布成可访问的API服务,还能用网页表单测试ID生成和解析功能。实践过程中,我深刻体会到好工具能让学习曲线变平缓——不用配环境、不用纠结部署,专注在算法理解本身。希望这篇笔记对你有帮助。

AgatePanther34的博客 556

论文阅读:arxiv 2023 EduChat: A Large-Scale Language Model-based Chatbot System for Intelligent Education

EduChat是一个基于大规模语言模型(LLM)的教育领域聊天机器人系统,旨在为教师、学生和家长提供个性化、公平且富有同理心的智能教育服务。该系统通过在教育语料库上进行预训练和特定任务微调,强化了开放式问答、作文评估、苏格拉底式教学和情感支持等教育功能。为解决领域知识不足和知识更新问题,EduChat采用了检索增强技术,并融入心理学和教育学理论。该项目已开源,提供代码、数据和模型参数,推动LLM在智能教育中的应用发展。

CSPhD-winston的博客 1039

雪花算法原理以及改造 int 实现

雪花算法原理 雪花算法 int 实现

Best Wu 1335

相机图像质量评估标准全解析:MTF、CA、SNR 与色彩偏差的实战理解

图像质量评估是影像系统开发中的核心环节,它直接影响用户视觉体验与终端产品竞争力。本文基于真实的图像调试工程实践,系统讲解主流图像评价指标,包括调制传递函数(MTF)、色差(CA)、信噪比(SNR)与色彩偏差(DeltaE)等关键标准。结合 Imatest 测试流程与实际样张数据,逐项拆解各项指标在实际图像分析中的意义与优化路径,帮助开发者建立完整、量化、工程化的图像质量评估体系。

努力分享一些人工智能、计算机视觉、影像等相关的知识干货! 2805

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

雪花算法的原理和实现Java

SnowFlake 算法,是 Twitter 开源的分布式 id 生成算法。其核心思想就是:使用一个 64 bit 的 long 型的数字作为全局唯一 id。在分布式系统中的应用十分广泛,且ID 引入了时间戳,基本上保持自增的。 这 64 个 bit 中,其中 1 个 bit 是不用的,然后用其中的 41 bit 作为毫秒数,用 10 bit 作为工作机器 id,12 bit 作为序列号。...

雨夜青草的博客 23万+

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Java中雪花算法实现原理是什么

雪花算法生成的ID是64位的,其中第一位为符号位,恒为0,接下来41位为时间戳,精确到毫秒级别,然后是10位的数据中心ID和机器ID,通常是分配在不同的部分,最后是12位的序列号,随机生成。总之,在Java中实现雪花算法主要是通过位运算和synchronized关键字来保证生成的ID是唯一的,这有助于保证分布式系统的稳定运行。雪花算法是一种生成分布式系统中唯一ID的算法,它的主要特点是生成的ID是有序的且不重复的,这使它成为了分布式系统中广泛使用的一种算法。那么,Java中的雪花算法实现原理是什么?

我点评的博客 407

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

上一篇: 数仓建模和业务建模对比总结
下一篇: Hive数据导入到HBase
闻香识代码
博客等级 码龄12年 314粉丝 223原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值