- 博客(31)
- 资源 (9)
- 收藏
- 关注
原创 Clickhouse-file:基于Clickhouse-local实现Clickhouse高效写入数据
Clickhouse file模式、Clickhouse local生成Clickhouse file,通过rsync传输到Clickhouse服务器
2023-06-08 23:53:23
2319
原创 实战:kafka、zookeeper SASL+ACL实现动态权限认证、授权
kafka基于SASL/SCRAM 集合zookeeper SASL,实现安全认证、权限校验ACL。
2023-02-18 23:09:07
7743
5
原创 Flink 为什么需要watermark
flink watermark、flink window、flink Time直接的管理关系。Tumbling Windows、Sliding Windows、Session Windows、Global Windows
2022-11-18 09:00:00
705
原创 Flink sql join 快速入门
flink sql join 、Regular Joins(双流join)、Interval Joins(区间join)、Temporal Joins(时态join)、JOIN LATERAL、窗口Join
2022-11-15 19:51:48
3070
2
原创 maven优雅的替换依赖中的类
maven替换依赖中的类 java替换jar中的类 maven-dependency-plugin dependency:unpack
2022-03-23 23:03:42
6641
1
原创 Feign 异常传递
feign 异常传递 异常序列化 异常反序列化 ErrorDecoder HandlerExceptionResolver
2022-01-29 20:00:00
3964
1
原创 log4j2漏洞解决方案:log4j2转换为logback
log4j2漏洞解决方案:log4j2转换为logback ,log4j2漏洞 log4j2 logback flink
2022-01-12 21:02:54
2516
原创 supervisor 无法使用jvm命令
systemctl启动服务,不能使用jvm命令 systemctl supervisor jvm jstack PrivateTmp,Unable to open socket file: target process not responding or HotSpot VM not loaded
2022-01-07 17:37:01
1391
原创 flink 执行计划、数据传输策略
flink 执行计划可视化工具、数据传输策略说明、ship_strategy、ShipStrategyType
2021-12-08 17:15:27
1910
原创 flink slot分配、并行度、任务链
并行度并行数据流Flink程序本质上是并行和分布式的。在程序执行期间,一个流会生成一个或者多个stream partition,并且一个operator会生成一个或者多个operator subtask。operator的 subtask 彼此之间是独立的,分别在不同的线程里去执行并且可能分布在不同的机器上或者containers上。 operator的subtasks的数量等于该操作算子的并行度的数量。流的并行度有总是取决于产生它的操作算子的并行度决定的。同一个flink程序中的不同的operator
2021-11-30 09:58:16
1989
原创 docker 批量删除镜像
查询镜像> docker images批量删除满足条件的镜像查询满足条件的镜像,并输出镜像iddocker images |grep '<none>'|awk '{ print $3 }'删除版本为<none>的镜像-f 强制删除docker rmi -f $(docker images |grep '<none>'|awk '{ print $3 }')...
2021-11-25 10:57:53
795
原创 http 工具类,查询、文件上传、下载
文章目录使用方式源码依赖:HttpClientConnection连接池类GET请求实现类POST 请求实现类PUT请求实现类创建请求工厂类使用方式GET查询请求将返回数据解析成对象 String packagesUrl = "http://localhost:8080/packages"; Integer packageId = 12; String url = String.format("%s/%s", packagesUrl, packageId); GitlabPac
2021-11-18 09:53:31
493
原创 查询SQL解析成java对象工具
场景这个工具是将查询sql where条件,拆分成数组对象,具体效果如下例如select * from dual where id=1 and name between 2 and 4 or (value =3 and stash in('we'))解析为:[ { "values":[ "1" ], "column":"id", "operator":"=" }, {
2021-11-04 20:49:02
1206
原创 maven 常用插件
maven-shade-plugin将依赖的jar包打包到当前jar包(常规打包是不会将所依赖jar包打进来的);对依赖的jar包进行重命名(用于类的隔离);<plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-shade-plugin</artifactId> <executions> <
2021-10-28 23:21:54
234
原创 io.fabric8.kubernetes.client.KubernetesClientException Exception : too old resource version
场景基于docker镜像:flink:1.11.2-scala_2.11使用环境:基于k8s进行部署异常日志Fatal error occurred in the cluster entrypoint. io.fabric8.kubernetes.client.KubernetesClientException Exception : too old resource version: 122201792 (122215353) at io.fabric8.kubernetes.clien
2021-10-28 23:15:31
4188
原创 mysql-connector日志格式化输出
前言经常我们项目中会依赖 mysql-connector-jar来进行ORM操作,在我们进行排查问题时,有时客户端需要知道mysql做了什么事情,再详细点,想样看到打印的TRACE级别的日志,实际上,在mysql-connector包中,有很多日志输出的代码,单默认没有开启打印到控制台。下面,我们就实现这个目标:输出日志,并且集成到项目日志系统中。分析代码分析通过查看jdbc日志输出带代码,来定位日志打印开关的位置。mysql-connector日志打印代码样例:public class
2021-09-18 15:19:30
522
原创 hadoop 安装
hadoop 安装下载地址安装步骤1.创建用户2.设置JAVA_HOME3.安装hadoop4.配置4.1 Hadoop单机配置(非分布式)4.2 Hadoop伪分布式配置Q&A下载地址Hadoop的下载:http://mirrors.cnnic.cn/apache/hadoop/common本次是基于2.8.1版本安装步骤1.创建用户用户名为hadoop,使用/bin/bash作为shellsudo useradd -m hadoop -s /bin/bashsudo pa
2021-08-06 15:27:12
137
原创 Flink k8s启动方式
Flink k8s启动方式通过docker启动镜像准备Session Cluster启动模式1. 设置docker容器建的通信连接2. 启动JobManager3. 启动TaskManager4.启动任务Job Cluster启动模式1. 设置docker容器建的通信连接2. 启动JobManager3. 启动TaskManger通过k8s启动1. 准备镜像1.1. 基于flink:1.11.2-scala_2.11 将Job启动函数以及依赖,生成新的镜像1.2. k8s集群2. Per-Job模式启动fl
2021-07-20 00:04:53
1646
3
原创 nproc、nofile 对于systemctl 服务设置不生效
nproc、nofile 对于systemctl 服务设置不生效背景排查过程解决方法扩展nproc、nofile的含义如果超过限制值,出现的错误描述nprocnofile配置并生效配置查看命令背景在一次mq集群运维过程中,broker不能正常启动,报错(Too many open files)排查过程看到这个错误首先想到的解决方法是修改系统文件最大连接数的限制,但是通过命令查看当前系统连接数已经为比较大的值(655350)。接着判断是不是配置没有生效,或者是当前进程的配置获取的并不是系统的全局配置,
2021-07-19 22:06:47
1753
windowbuilder for eclipse4.4
2014-11-16
FastStone 7.7破解补丁
2014-07-07
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人