
大数据
猿憨憨
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
记一次解决clickhouse内存增长的问题
问题描述clickhouse版本为22.2.2.1,随着运行时间内存平稳增长,照找个速度不到一个月内存就会涨满,重启后内存就会清空,但还是会从头增长。解决方案从GitHub中issue中搜索类似问题,给出的方案是设置<compile_expressions>0</compile_expressions>,实施了之后没有解决问题。换版本,以为之前的版本没有这个问题,更新版本才出现的问题,因此怀疑版本的问题。版本降级到21.12.4,问题解决。实施步骤从GitHub下载原创 2022-03-28 09:41:05 · 4713 阅读 · 0 评论 -
记一次替换Hadoop/HDFS/HBASE的磁盘
记一次替换Hadoop/HDFS/HBASE的磁盘1. 需求公司近几个月业务增长很快,数据量也大幅增长,但是存储数据的磁盘眼看就要满载,因此主管让我迁移数据,并且给我提了一下几个需求:由于用的云服务器,磁盘是要收钱的,所以原来的盘腾出来不再续费,只用替换的是10p的云存储。线上数据是不断流动的,不能停服务,不能影响线上数据的正常查询,动态替换。数据一致性必须保证。2. 方案参考了(百度了)很多资料后的解决思路:利用Hadoop副本的机制,集群的副本数是3,先停一个节点的datanode,原创 2021-11-24 14:25:49 · 2428 阅读 · 0 评论 -
clickhouse物化视图实时构建宽表
--实测只有主表动宽表动,从表动主表不动宽表不动CREATE MATERIALIZED VIEW dws_iot.realtime_deviceengine = CollapsingMergeTree(sign)PARTITION BY toYYYYMM(created_date)order by idPOPULATE AS SELECT dv.id AS id, dv.sign AS sign, dv.created_date AS created_date,原创 2021-07-02 10:16:29 · 2122 阅读 · 0 评论 -
本地浏览器访问云服务器某个端口(webUI)
第一步:配置跳板机(堡垒机)首先得有一台能通过ssh登录云端服务器的跳板机(堡垒机),以Finalshell为例第二步:建立一条ssh隧道选择上图中隧道->新建这样映射就建立好了第三步 访问(必须登录上上面配置好的跳板机,不必登录云端服务器)...原创 2021-07-02 10:03:16 · 1438 阅读 · 0 评论 -
zeppelin连接hbase
zeppelin配置hbase解释器(非CDH,要考虑版本兼容)准备:集群搭建,免密登录,时间同步,hbase确认跑通1:将hbase相关jar包导入到zepplin目录下cp /usr/local/hbase/lib/hbase-* /usr/local/zeppelin/interpreter/hbase/cp /usr/local/hbase/conf/hbase-env.s...原创 2019-10-21 21:23:23 · 2086 阅读 · 1 评论