Starrocks开发环境搭建

1.安装Docker

下图为利用docker开发关系图
在这里插入图片描述

2.Docker镜像下载

开发环境最好使用ubuntu的容器,如果使用centos容器,会存在各种各样的环境问题

获取镜像
https://hub.docker.com/r/starrocks/dev-env-ubuntu/tags
进入宿主机下载镜像
sudo docker pull starrocks/dev-env-ubuntu:3.1.4

3.创建Docker容器并编译Starrocks源码

3.1 创建容器

把宿主机路径映射到容器特殊目录,保证编译出来的数据保存在宿主机容量大的磁盘,还有个好处是多个容器可以共享同一个本地Maven仓库。

宿主机路径容器路径说明
/data/zxf/starrocks/root/starrocksstarrocks源码位置
/data/zxf/maven/.m2/root/.m2本地Maven仓库

3.2 启动容器命令

sudo docker run --privileged=true --name='zxf-starrocks-dev-new' -p 10.192.168.10:12022:22 -p 10.192.168.10:13030:8030 -p 10.192.168.10:13040:8040 -p 10.192.168.10:23030:9030 -p 10.192.168.10:13005:5005 -p 10.192.168.10:13006:6006 -p 10.192.168.10:13007:7007 -v /data/zxf/starrocks:/root/starrocks -v /data/zxf/maven/.m2:/root/.m2 -v /var/run/docker.sock:/var/run/docker.sock -v /usr/bin/docker:/usr/bin/docker -itd starrocks/dev-env-ubuntu:3.1.4

3.3 进入容器设置环境变量

docker exec -it zxf-starrocks-dev-new  bash
vi ~/.bashrc
配置环境变量
不设置这个环境变量会 编译时会去 下载第三方库,花很长时间
export STARROCKS_THIRDPARTY=/var/local/thirdparty
reload cmake project 会失败,要配置以下环境变量
export CC=/usr/bin/gcc
export CXX=/usr/bin/g++

不然,启动be时报错: error while loading shared libraries: libjvm.so: 
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64

3.4 下载源码并编译

一定要先进行Debug模式 和 Release模式打包,生成必要的中间文件

cd /root/starrocks
wget https://codeload.github.com/StarRocks/starrocks/zip/refs/tags/3.1.4
unzip 3.1.4
Debug模式打包,生成build_Debug目录
export BUILD_TYPE=Debug
/root/starrocks/starrocks-3.1.4/build.sh
Release 模式打包
export BUILD_TYPE=Release
/root/starrocks/starrocks-3.1.4/build.sh
打包完成之后 目标文件在
/root/starrocks/starrocks-3.1.4/output

4. 容器启动openssh-server服务

安装openssh-server并启动,用于后面可以配置 在clino上通过ssh端口远程修改代码

apt-get update
apt-get install openssh-server

启动ssh
/etc/init.d/ssh start

设置密码

passwd root
sr123

修改配置,否则ssh无法登录容器

vi /etc/ssh/sshd_config

UsePAM no
PermitRootLogin yes
PasswordAuthentication yes
重启
/etc/init.d/ssh restart

本地通过ssh连接容器

ssh -p 36030 root@10.192.168.10
sr123

5、Clion 配置工程

1)下载源码到本地机器并解压

2)下载地址: https://codeload.github.com/StarRocks/starrocks/zip/refs/tags/3.1.4

3)用Clion打开工程配置SSH
在这里插入图片描述

4)远程机器安装rsync 和 gdb,不然无法配置远程编译环境
在这里插入图片描述
安装命令如下:

apt-get install rsync
apt-get install gdb

6)配置远程编译环境

在这里插入图片描述
7)配置远程机器目录与本地目录映射关系
在这里插入图片描述
在这里插入图片描述
8)配置cmake
在这里插入图片描述
在这里插入图片描述

7)下载远程编译好的中间文件

  • build_Debug 目标包含Debug模式编译生成的中间文件 ,clion需要这些文件进行代码跳转 gensrc 目录包含
  • 编译过程中生成的protobuf、thrift 生成的中间文件
    在这里插入图片描述
    在这里插入图片描述

8)加载cmake工程 :reload cMake project

在这里插入图片描述

9)如果代码可以自由跳转,就说明clino配置成功

6、IDEA 配置FE代码并远程调试

1)由于之前使用Debug模式打包,没有生成protobuf 、thrift的中间java源码,需要使用正式打包方式生成

 /root/starrocks/starrocks-3.1.4/build.sh --fe

2)在Clion中下载编译完成之后生成的java文件
在这里插入图片描述

3)reload mavn工程

4) 远程调试

启动FE进程
/root/starrocks/starrocks-3.1.4/output/fe/bin/start_fe.sh  --debug&

IDEA配置如下图
在这里插入图片描述
注意:所有本地代码更新记得使用Clion上传代码到远程编译环境
在这里插入图片描述

7. 启动服务

1) 启动服务测试功能

创建元数据目录
mkdir /root/starrocks/starrocks-3.1.4/output/fe/meta
启动FE
/root/starrocks/starrocks-3.1.4/output/fe/bin/start_fe.sh --daemon
启动BE
/root/starrocks/starrocks-3.1.4/output/be/bin/start_be.sh --daemon

停止FE 
/root/starrocks/starrocks-3.1.4/output/fe/bin/stop_fe.sh
停止BE
/root/starrocks/starrocks-3.1.4/output/be/bin/stop_be.sh 

2) 访问集群并添加BE并测试功能

容器内部安装mysql
apt-get install mysql-server

通过访问宿主机(10.192.168.10)连接集群
mysql -P23030 -h10.192.168.10 -uroot --prompt="StarRocks > "

添加BE
通过SHOW PROC '/frontends'\G; 获取容器ip,然后添加BE:
ALTER SYSTEM ADD BACKEND "172.17.0.10:9050";

查询集群各个角色
SHOW PROC '/backends'\G;
SHOW PROC '/frontends'\G;

创建数据库
CREATE DATABASE example_db;
创建表
CREATE TABLE IF NOT EXISTS example_db.detail (
    event_time DATETIME NOT NULL COMMENT "datetime of event",
    event_type INT NOT NULL COMMENT "type of event",
    user_id INT COMMENT "id of user",
    device_code INT COMMENT "device code",
    channel INT COMMENT ""
)
DUPLICATE KEY(event_time, event_type)
DISTRIBUTED BY HASH(user_id)
PROPERTIES (
"replication_num" = "1"
);
插入数据
insert into example_db.detail(event_time,event_type,user_id,device_code,channel) values('2023-08-30 01:00:00',1,2,3,4);
select * from example_db.detail;
### 如何配置 Flink CDC 连接 StarRocks 示例教程 #### 准备工作 为了成功配置并运行Flink CDC连接至StarRocks的任务,需先完成环境搭建。这包括但不限于安装Apache Flink、StarRocks以及Maven工具[^1]。 ```bash git clone https://github.com/StarRocks/starrocks-connector-for-apache-flink.git cd starrocks-connector-for-apache-flink mvn clean install ``` 上述命令用于获取并构建StarRocks对于Apache Flink的连接器插件,确保后续操作能够顺利执行。 #### 配置Flink作业 当所有必要的组件都已就绪之后,下一步就是设置具体的Flink作业参数来实现CDC(Change Data Capture)功能。此过程涉及定义源端数据库(MySQL)与目标存储(StarRocks)之间的映射关系,并指定变更事件捕获机制的具体细节[^2]。 #### 提交任务到Flink集群 一旦完成了前面提到的各项准备工作,则可以通过CLI方式提交预设好的YAML文件给Flink独立部署模式下的集群实例: ```bash bin/flink-cdc.sh mysql-to-starrocks.yaml ``` 这里`mysql-to-starrocks.yaml`是一个包含了关于如何从MySQL读取变化记录并将这些更新写入StarRocks中的指令集文档。 #### 使用DataStream API进行CDC同步 另一种方法是利用Flink提供的DataStream API接口,在不依赖外部脚本的情况下直接编程实现相同的功能——即把来自MySQL的数据流实时地复制到StarRocks里去。这种方式允许开发者更加灵活地控制整个流程,并且可以方便地集成其他业务逻辑处理步骤[^3]。 ```java // Java代码片段展示如何创建一个简单的Flink程序来进行CDC操作 final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.addSource(new MySqlSourceBuilder<>()) .addSink(new StarRocksSink<>(new StarRocksSinkOptions())); env.execute("Flink Job Name"); ``` #### Dinky平台简化配置流程 除了手动编写复杂的配置外,还可以借助像Dinky这样的图形化管理界面来加速开发周期。它不仅支持直观的操作体验,还提供了丰富的模板供用户选择,从而大大降低了入门门槛[^4]。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值