
hadoop
Geoffrey丨chon
这个作者很懒,什么都没留下…
展开
-
HDFS启动失败,部分机器启动成功部分失败
报错如下:Initialization failed for Block pool (Datanode Uuid unassigned) service to hadoop102/192.168.1.102:9000. Exiting.原因:第一次启动HDFS需要先格式化,再次执行格式化命令时需要先删除data下的数据,否则和之前id冲突。解决方法是直接删除tmp下的所有数据:rm -rf tmp然后格式化HDFShdfs namenode -format再重启HDFS,成功...原创 2021-06-19 12:47:28 · 1977 阅读 · 1 评论 -
启动hive时报错Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient;
报错:Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient;java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClie...原创 2020-03-30 11:45:21 · 483 阅读 · 0 评论 -
Hadoop集群无法启动datanode或namenode
我的原因:我修改了Hadoop安装文件夹的文件名hadoop-2.7.2,结果在同级目录下产生了新文件夹hadoop,但是原有的hadoop-2.7.2文件夹还在,在原有的文件夹里有data文件夹和logs文件夹,新文件夹里也有data和logs文件夹。然后我想到重新命名可能导致部分脚本无法运行,然后我把新文件夹下的所有文件及目录移动到旧文件夹,logs和data用旧的,然后删除了新的logs和d...原创 2020-03-29 14:25:59 · 428 阅读 · 1 评论 -
用ssh时 提示WARNING: POSSIBLE DNS SPOOFING DETECTED!
原因:机器识别故障。解决方法:删除 ~/.ssh /know_host,再重新连接ssh即可。原创 2020-03-27 22:04:30 · 361 阅读 · 0 评论 -
在Hadoop平台MapReduce上运行WordCount
package com.atguigu.mr.wordcount;import org.apache.hadoop.io.IntWritable;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.hadoop.mapreduce.Mapper;import...原创 2020-03-25 15:05:01 · 170 阅读 · 0 评论 -
IDEA报错:org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory file:/D:/output already
D:\develop\Java\jdk1.8.0_202\bin\java.exe “-javaagent:F:\IDEA\IntelliJ IDEA 2019.3.3\lib\idea_rt.jar=7676:F:\IDEA\IntelliJ IDEA 2019.3.3\bin” -Dfile.encoding=UTF-8 -classpath D:\develop\Java\jdk1.8.0_...原创 2020-03-25 11:10:32 · 4215 阅读 · 0 评论 -
一键查看Hadoop集群正在运行的进程shell脚本
#!/bin/bashfor i in hadoop102 hadoop103 hadoop104doecho “===================== $i ========================”ssh $i /opt/module/jdk1.8.0_144/bin/jpsdone#注:我第一次写图方便修改,在editplus里写好然后用secureCRT创建myjp...原创 2020-03-24 15:29:17 · 775 阅读 · 0 评论 -
群起群停Hadoop集群shell脚本
if [ $# -eq 0 ]thenecho “No Args input…”ficase $1 in“start”)#start操作echo “=正在开启HDFS====”for i in hadoop102 hadoop103 hadoop104doif [ $i = hadoop102 ]thenssh $i /opt/module/hadoop-2.7.2/sbi...原创 2020-03-24 09:40:10 · 363 阅读 · 0 评论 -
集群时间同步
时间同步的方式:找一个机器,作为时间服务器,所有的机器与这台集群时间进行定时的同步,比如,每隔十分钟,同步一次时间。配置时间同步具体实操:时间服务器配置(必须root用户)(1)检查ntp是否安装[root@hadoop102 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1...原创 2020-03-08 14:23:30 · 194 阅读 · 0 评论 -
【转】Linux清除原有ssh密钥方法
Linux清除原有ssh密钥方法1.问题现象以前在mac的终端下面使用ssh user@localhost输入密码就可以连接到远程的SSH服务器,今天连接的时候老是提示如下错误:KENFORFORLIN:~ kenforstar$ sudo ssh root@192.168.1.203Password:@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@...原创 2020-03-08 13:53:01 · 3783 阅读 · 0 评论 -
Linux常用命令简述--dirname与basename
一、简介1、dirname命令去除文件名中的非目录部分,删除最后一个“\”后面的路径,显示父目录。 语法:dirname [选项] 参数2、basename命令用于打印目录或者文件的基本名称,显示最后的目录名或文件名。语法:basename [选项] 参数二、使用实例1、dirname[root@liang ~]# dirname /etc/httpd//etc[root@liang...原创 2020-03-04 16:00:35 · 286 阅读 · 0 评论