
flink
文章平均质量分 50
杜之心
有些问题,需要喝杯茶才能解决。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
flink-cdc-connector 更改 connector 名字
在使用阿里云托管flink的时候,要从sqlserver实时同步数据到hologress,准备使用flink-cdc 的sqlserver-cdc connector,结果发现阿里云flink里面有个connector 有个名字重复了,而且还不能用,纯纯的bug,只能更改 flink-cdc 的sqlserver-cdc connector的名字,于是我把名字改成了‘flink-sqlserver-cdc’。需要修改的地方如下。 改完之后重新编译打包,带上依赖。找到jar包上传上去就可以使用了......原创 2022-06-28 16:29:06 · 539 阅读 · 0 评论 -
flink log4j2 配置日志输出
flink log4j2 配置文件原创 2022-03-03 12:10:39 · 3261 阅读 · 0 评论 -
flink scala 项目maven编译 (flink报错:Error: Static methods in interface require -target:jvm-1.8 已解决)
问题: 在Flink scala中使用WatermarkStrategy类中的方法maven编译时抛出以下异常 [ERROR] /Users/duzhixin/flink-dw/src/main/scala/come/bigdata/etl/FlinkEvent.scala:26: error: Static methods in interface require -target:jvm-1.8 [INFO] val eventStream = env.fromSource(kafkaSource,原创 2022-02-17 15:53:39 · 1192 阅读 · 0 评论 -
flink1.12安装并配置ha
1.下载安装包,解压 https://flink.apache.org/downloads.html tar zxvf *.tax.gz scala下载 解压 配置 vim /etc/profile https://www.scala-lang.org/download/ export SCALA_HOME=/usr/local/scala-2.12.13 PATH=SCALAHOME/bin:SCALA_HOME/bin:SCALAHOME/bin:JAVA_HOME/bin:HADOOPH原创 2021-03-04 11:50:46 · 957 阅读 · 2 评论 -
flinkx 部署,on yarn模式运行
1.flinkx部署 参考官方安装文档,但是会有一些坑 wget https://github.com/DTStack/flinkx/blob/1.10_release/docs/quickstart.md 2.FlinkX版本需要与Flink版本保持一致,最好小版本也保持一致 FlinkX分支 Flink版本 1.8_release Flink1.8.3 1.10_release Flink1.10.1 1.11_release Flink1.11.3 不对应在standal原创 2021-04-02 14:21:09 · 1465 阅读 · 2 评论 -
flink1.13 table api 查询hive数据,及腾讯云cos存储
前言 在调试flink table api 查询 hive数据的时候,真的是遇到很多坑,特别是要hive存储的数据是在腾讯云的cos上,而且我是跨集群查询数据,要解决各种依赖和环境问题,下面的代码和pom.xml 已经调试成功,在本地和集群 on yarn都可以运行,本地的时候需要在idea里面加args为dev,集群 on yarn不用加。 代码 package com.bigdata.etl import org.apache.flink.table.api.{EnvironmentSettings,原创 2021-06-21 15:03:47 · 1427 阅读 · 0 评论 -
flink1.12 flink-sql client 调试
###flink1.12 下载安装 ###flink-sql 把flink-connector-kafka_2.11-1.12.2.jar,flink-json-1.12.2.jar,flink-sql-connector-kafka_2.11-1.12.0.jar,jackson-core-2.9.5.jar,jackson-databind-2.9.5.jar放到$FLINK_HOME/lib里面,不放会class not found cd $FLINK_HOME #启动yarn session .原创 2021-04-16 14:47:28 · 1051 阅读 · 0 评论 -
flink-connector-jdbc.jar加入clickhouse驱动支持,并重新编译
1.在dialect package里面新加一个ClickhouseDialect,这个类可以根据MySQLDialect改 /* * Licensed to the Apache Software Foundation (ASF) under one * or more contributor license agreements. See the NOTICE file * distributed with this work for additional information * rega原创 2021-07-09 14:36:58 · 2270 阅读 · 1 评论