
bigData
晴_空
这个作者很懒,什么都没留下…
展开
-
flink遇到的坑
flink运行一切顺利,在发送数据量快达到1G的时候,突然发生故障,无故重启,最终导致整个flink程序崩溃。发现问题后,就开始测试,追踪到日志,如下:AsynchronousException{java.lang.Exception: Could not materialize checkpoint 1143 for operator logData -> Sink: host原创 2018-01-26 11:25:22 · 13215 阅读 · 0 评论 -
flink消费kafka消息
package testMaven.testMaven;import org.apache.flink.streaming.api.datastream.DataStream;import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;import org.apache.flink.streami原创 2018-01-26 13:53:39 · 1847 阅读 · 2 评论 -
flink集群一键安装脚本 -- java运行环境配置
前期准备,java运行环境准备8u144版本jdk:jdk-8u144-linux-x64.rpm多次从官网下载该rpm包失败,因此需要自己下载好该安装包#!/bin/bash################ 准备java环境 ######################DOWNLOAD_PATH=""JDK_PATH="jdk1.8.0_144" # "jre1....原创 2018-02-10 17:00:38 · 493 阅读 · 0 评论 -
flink集群一键安装脚本 -- 消息中间件kafka集群安装
#!/bin/sh########## HELP ###########if [ $# -ne 0 ];then if [ $1 == "-h" -o $1 == "-help" ];then echo -e " 示例: ./kafka.sh # 启动本地模式,不修改任何配置 ...原创 2018-02-10 17:08:24 · 532 阅读 · 0 评论 -
flink集群一键安装脚本 -- kafka消息中间件依赖zookeeper集群安装脚本
#!/bin/shINSTALL_PATH="/usr/local/src/";ZOOKEEPER_VERSION="3.4.11"ZOOKEEPER_GZIP="zookeeper-${ZOOKEEPER_VERSION}.tar.gz";ZOOKEEPER_CONF_DIR="${INSTALL_PATH}/zookeeper-${ZOOKEEPER_VERSION}/conf"Z...原创 2018-02-10 17:06:39 · 340 阅读 · 0 评论 -
redis 集群安装
以端口名(7001,7002,7003,7004,7005,7006)新建文件夹,存放集群节点的配置文件cd /usr/local/src/redis-4.0.2/mkdir -p ./cluster/7001 # 同理新建其他目录cp ./redis.conf ./cluster/7001 vi ./cluster/7001 # 打开修改配置文件要修改的配置内容po原创 2018-02-06 14:25:28 · 214 阅读 · 0 评论 -
flink集群一键安装脚本 -- flink集群安装
#!/bin/sh########## HELP ###########if [ $# -ne 0 ];then if [ $1 == "-h" -o $1 == "-help" ];then echo -e " 示例: ./test # 启动本地模式,不修改任何配置 ...原创 2018-02-25 16:23:53 · 1044 阅读 · 0 评论