
大数据
大数据
^o^Smile^_^
这个作者很懒,什么都没留下…
展开
-
Flink——读取Kafka数据处理后存入StarRocks
授权方式登录 登录华为FusionInsight Manager下载flinkuser用户的授权文件user.keytab、krb5.conf 准备LoginUtil工具类 登录代码如下://loginString userPrincipal = "flinkuser";String userKeytabPath = System.getProperty("user.dir") + File.separator + "conf"+File.separator+"user...原创 2022-03-07 10:36:56 · 4072 阅读 · 1 评论 -
StarRocks建表优化全流程
查看StarRocks版本select current_version();查看状态MySQL> SHOW PROC "/brokers"\G mysql> SHOW PROC '/backends'\G mysql> SHOW PROC '/frontends'\GStarRocks的1副本意思是仅有一份数据,三副本为共有三份数据创建表前缀索引,where条件的放在表的前三列(前两列date/int,string放在第三列),其他需要作为查询条件的字段,通原创 2022-02-22 10:35:41 · 3711 阅读 · 0 评论 -
StarRocks——增量数据导入
1.准备增量导入脚本incrSyncTask.sh按日期增量导入#!/bin/bash. /etc/profile#开始日期格式20210101begin_date=$1#结束日期end_date=$2# 读库的IPr_ip=" 读库的ip"# 读库的端口r_port="读库的port"# 服务名称r_dbname="服务名称"# 读库的账号r_username="账号"# 读库的密码r_password="密码"#分区#r_partition=$1# 写库的原创 2022-01-27 17:11:12 · 1926 阅读 · 1 评论 -
StarRocks——分区表创建和数据导入
1.创建分区表CREATE TABLE tbl1 (ID VARCHAR ( 30 ) NOT NULL,ROWKEY VARCHAR ( 100 ) NOT NULL,.......PASS_TIME DATETIME NOT NULL) DUPLICATE KEY ( ID ) partition BY RANGE ( PASS_TIME ) ( ) DISTRIBUTED BY HASH ( ID ) BUCKETS 5 PROPERTIES ("dynamic_part原创 2022-01-24 10:45:24 · 9050 阅读 · 0 评论 -
Datax导入Oracle数据到StarRocks
1.下载DataX2.点击下载StarRocksWriter 插件一定要在本地解压后进入datax\plugin\目录下删除writer和reader标注的文件,在将文件上传到服务器,不然执行时会报错,已采坑。报错如下:3.在StarRocks下建立与Oracle数据库中一致的表结构PS:主要兼容MySQL语法,数据类型需要做一定的改动,点击查看支持的数据类型4.准备配置文件datax-test.json{ "job": { "s...原创 2022-01-18 10:35:41 · 1830 阅读 · 0 评论 -
Docker——搭建ELK
安装Elasticsearch1.拉取镜像docker@box:/home/box$ docker pull elasticsearch:7.14.22.在宿主机准备配置文件创建目录docker@box:/$ mkdir -p /server0/config/elk在/server0/config/elk目录下创建elasticsearch.yml文件在elasticsearch.yml添加配置信息cluster.name: "docker-cluster"..原创 2021-11-15 07:49:17 · 618 阅读 · 0 评论 -
Spark——集群搭建
这里搭建的集群只使用spark自身节点运行的集群模式——独立部署(Standalone)模式。1.上传并解压文件(1)上传spark-3.0.0-bin-hadoop3.2.tgz文件到/opt/software目录下(2)解压spark-3.0.0-bin-hadoop3.2.tgz到 /opt/module/目录下tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/(3)进入/opt/module/目录下mv spar原创 2021-11-06 19:14:26 · 656 阅读 · 0 评论