
Hadoop
文章平均质量分 75
程志伟
关注微信公共号:小程在线
展开
-
Hadoop集群搭建--时间同步
2022年05月10日星期二163957CST。2021年09月11日星期六111111CST。2021年09月11日星期六111136CST。2022年05月10日星期二164604CST。如果服务器在公网环境(能连接外网),可以不采用集群时间同步。3.修改/etc/sysconfig/ntpd文件。查看所有节点ntpd服务状态和开机自启动状态。在其他机器配置1分钟与时间服务器同步一次。1分钟后查看机器是否与时间服务器同步。6.修改103的时间。...原创 2022-07-19 20:00:00 · 1095 阅读 · 0 评论 -
Hadoop(HDFS)--Shell操作上传与下载
[atguigu@hadoop103 ~]$ cd /opt/module/hadoop-3.1.3/[atguigu@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh[atguigu@hadoop103 ~]$ cd /opt/module/hadoop-3.1.3/[atguigu@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh原创 2022-07-19 19:00:00 · 807 阅读 · 0 评论 -
Hadoop集群搭建--集群常用脚本
rwxrwxrwx.1atguiguatguigu11305月101507myhadoop.sh。102/103/104都jps看一下。102/103/104都jps看一下。原创 2022-07-18 21:00:00 · 408 阅读 · 0 评论 -
Hadoop集群搭建--配置日志的聚集
atguigu@hadoop102~]$cd$HADOOP_HOME/etc/hadoop[atguigu@hadoop102hadoop]$vimyarn-site.xml[atguigu@hadoop102hadoop]$xsync$HADOOP_HOME/etc/hadoop/yarn-site.xml[atguigu@hadoop103hadoop-3.1.3]$sbin/stop-yarn.sh[atguigu@hadoop103hadoop-3.1.3]$mapred--daemonst。原创 2022-07-18 20:30:00 · 337 阅读 · 0 评论 -
Hadoop集群搭建--配置历史服务器
atguigu@hadoop102hadoop-3.1.3]$cd$HADOOP_HOME/etc/hadoop[atguigu@hadoop102hadoop]$vimmapred-site.xml增加红色框的内容将文件进行分发[atguigu@hadoop102hadoop]$xsync$HADOOP_HOME/etc/hadoop/mapred-site.xml[atguigu@hadoop102hadoop]$mapred--daemonstarthistoryserver查看进程[...原创 2022-07-18 20:00:00 · 391 阅读 · 0 评论 -
Hadoop集群搭建--集群启动
查看HDFS在磁盘存储文件内容,和上面word.txt文件内容一致。红色字体表示每个人的位置不一样,需要根据自己的目录调整pwd。执行wordcount程序。原创 2022-07-17 21:00:00 · 4405 阅读 · 0 评论 -
Hadoop集群搭建--集群配置
2.4配置mapred-site.xml。2.1配置core-site.xml。2.2配置hdfs-site.xml。2.3配置yarn-site.xml。查看103、104机器上的分发情况。原创 2022-07-17 20:00:00 · 303 阅读 · 0 评论 -
Hadoop集群搭建--SSH无密登录配置
然后敲(三个回车),就会生成两个文件id_rsa(私钥)、id_rsa.pub(公钥)访问103sshhandoop103,输入密码,退出。可以看到多出来一个authorized_keys文件。不用输入密码就可以访问103,说明配置成功。2.将公钥拷贝到要免密登录的目标机器上。3.测试102访问103机器。账号,配置一下无密登录到。4.配置其他机器。账号配置一下无密登录到。账号配置一下无密登录到。...原创 2022-07-16 20:15:00 · 494 阅读 · 0 评论 -
Hadoop集群搭建--创建分发脚本xsync
2.在hadoop103上,将hadoop102中/opt/module/hadoop-3.1.3目录拷贝到hadoop103上。3.在hadoop103上操作,将hadoop102中/opt/module目录下所有目录拷贝到hadoop104上。1.在hadoop102上,将hadoop102中/opt/module/1.在/home/atguigu/bin目录下创建xsync文件。在103/104上执行source/etc/profile。输入102的密码,输入yes,在输入104的密码。...原创 2022-07-15 20:30:00 · 1381 阅读 · 0 评论 -
Hadoop集群搭建-- 安装jdk、hadoop
1. 通过Xftp将本机JDK上传至服务器目录:2. 查看是否上传成功:3. 解压jdktar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/4. 配置环境变量sudo vim /etc/profile.d/my_env.sh #JAVA_HOMEexport JAVA_HOME=/opt/module/jdk1.8.0_212export PATH=$PATH:$JAVA_HOME/bin保存后退出 :wq5. 使环境变量生效sou...原创 2022-07-15 20:00:00 · 1678 阅读 · 2 评论