- 博客(7)
- 资源 (1)
- 收藏
- 关注
原创 Mysql导入CVS文件
环境:ubuntu14.04+mysql 5.5.611、登录mysql,查看secure-file-priv相关属性配置mysql> show variables like '%secure%';+------------------+-----------------------+| Variable_name | Value |+-...
2018-12-04 11:44:15
433
原创 机房断电导致HBase集群region offline故障解决
环境描述:ambari集群+hdfs+zookeeper+hbase错误描述:hdfs 存在部分 corrupt replica blocks/missing blocks/under replicated blockesBlock Errors 31 corrupt replica / 30 missing / 31 under replicated hbase存在大量的o...
2018-12-03 15:25:22
3345
原创 java解压 7z+tar+rar解压
依赖的jar包,除了如下的pom依赖还额外依赖java-unrar-0.5.0.jar,其他地方下载后本地添加,地址http://maven.aliyun.com/mvn/search7z解压:package tools;import net.sf.sevenzipjbinding.*;import net.sf.sevenzipjbinding.impl.RandomAccess...
2018-11-24 18:13:55
603
原创 java+post+http文件上传
依赖两个jar包 <dependency> <groupId>org.apache.httpcomponents</groupId> <artifactId>httpclient</artifactId> <version>4.5.3</ver...
2018-11-24 18:02:40
915
1
原创 centos7 ambari2.6.1.5+hdp2.6.4.0 大数据集群安装部署
本文介绍纯净版的机器,搭建ambari集群,版本如标题,集群规模为1master,4slaver。1、首先为5台机器分别分配好主机名和相应的IP地址,主机名需要符合FQDN规则,不能简单的master,我这里分配的如下:master.qc.com 192.168.8.100slaver1.qc.com 192.168.8.101slaver2.qc.com 192.168.8.10...
2018-11-21 16:45:47
724
转载 spark运行正常,某一个Stage卡住,停止不前异常分析
异常说明spark提交任务后,前N个Stage运行顺利,到达某一个Stage后,卡住,通过spark界面可以看到,executor运行正常,卡住的Stage的task已经分配至executor,但duration time一直增加,task却不结束,同时log中也无异常报出。解决方案1,分析没有异常说明程序本身没有问题,框架运行也运行正常,很有可能是因为该stage操作较为复杂...
2018-09-05 10:02:10
7148
原创 ubuntu下搭建hdfs+hbase+spark集群(ssh免密登录)
备注:集群之间的通信依赖ssh,因此需要首先安装ssh,并实现各节点之间的ssh无密访问。(均已ubuntu系统为例) 1、安装ssh 分别给集群中的每个节点安装ssh,指令如下:$sudo apt-get install openssh-server如果安装过程中提示错误,需要更新软件源,具体指令如下:$sudo apt-get update2、生成秘钥 每...
2018-07-27 21:16:03
628
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人