
Linux
金星000
fasdddddddddddddddd
展开
-
集群Linux各个节点的配置------Hadoop下载与安装
下载Hadoop方式 1.windows下官网下载压缩包,然后文件传输到linux 百度“hadoop”,点击 Apache Hadoop连接进入官网 2.在centos下使用wget进行下载安装wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz以上两者的区别,使用windows下载可能有的下载软件速度...原创 2021-06-01 10:46:45 · 1018 阅读 · 0 评论 -
集群Linux各个节点的配置------免秘钥登陆
Hadoop集群服务器之间进行通信操作需要从一台服务器ssh方式登陆到另一台服务器,为了不进行用户名和密码的输入,直接登陆对对方服务器的文件进行操作,不做任何校验和拦截,可以使用免秘钥方式。启动Hadoop集群时,因为是主从架构,需要主节点上执行启动命令,主节点带动从节点,这样主就要分别访问从,必须要做免密登陆。生成秘钥需要在主服务器HadoopMasterServer,然后把HadoopMasterServer的公钥复制到HadoopSlaveServer1和HadoopSlaveSer.原创 2021-05-28 15:13:43 · 646 阅读 · 0 评论 -
Linux下搭建Hadoop环境---JDK安装
这里安装JDK8安装JDK8的方式有多中在windows下下载压缩包,通过xftp上传到linux服务器 去官网下载https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html完了以后使用Xftp上传到linux服务器指定目录下使用wget在本地下载,默认当前处于哪个目录,就会自动下载到对应的目录下wget --no-cookies --no-check-certificate --head.原创 2021-05-23 17:24:38 · 1025 阅读 · 1 评论 -
集群Linux各个节点的配置------配置host列表
配置host列表的目的就是,把集群下的所有主机都知道其他主机的存在,并且知道他们的主机名这ip。在Hadoop分布式集群中,服务器之间会频繁的通信,传递数据的同步和负载均衡。需要在/etc/hosts 里添加主机的ip和主机名映射关系保存即可通过ping 名利验证是否可以访问其他主机在master上ping salve1 slave2在slave1上ping master slave2在slave2上平master ,slave1...原创 2021-05-22 15:47:14 · 1827 阅读 · 0 评论 -
集群Linux各个节点的配置------防火墙
防火墙是系统安全保障的一部分,但是自带的防火墙开启会影响甚至阻断节点之间的通信和数据传递。所以需要关闭各个节点之间的防火墙。linux centos7下查看防火墙当前状态 systemctl satus firewalldactive代表运行中关闭防火墙指令如下:systemctl stop firewalld开启防火墙systemctl start firewalld...原创 2021-05-22 14:58:53 · 705 阅读 · 0 评论 -
集群Linux各个节点的配置------配置主机名字
主机名和ip是一样的,都可以通过网络进行访问,前面我们给虚拟机取的HadoopMasterServer,HadoopSlaveServer1,HadoopSlaveServer2这些名字只是业务逻辑名如果想通过名字去访问主机还得去配置和IP作用一样的主机名字。对应关系HadoopMasterServer masterHadoopSlaveServer1 slave1HadoopSlaveServer2 slave2使用指令:vi /etc/sysco...原创 2021-05-22 14:31:17 · 2065 阅读 · 0 评论 -
集群Linux各个节点的配置------同步时钟
时钟同步问题: 1.和谁的时钟同步? 3台服务器都是不稳定的,那么就需要找一个标准的时钟。这里选择国际一个标准时间服务器 cn.pool.ntp.org当然也可以选择阿里云时间服务器aliyun.com 都是域名形式的 这也要求这3台必须能访问外网。 2.怎么同步时钟? 配置自动方式的时钟同步(到点执行才生效)和手动同步时间(立即生效) 自动方式的时钟同步 如下 Linux服务器配置时钟的命令: ...原创 2021-05-22 14:12:02 · 774 阅读 · 0 评论 -
集群Linux各个节点的配置------IP地址
启动主服务器HadoopMasterServer和HadoopSlaveServer1,HadoopSlaveServer2.三个都启动后等待登陆。使用root 账号登陆,密码使用安装系统时设定的那个,想使用Xshell连接操作的话,请参照https://blog.youkuaiyun.com/jinxing_000/article/details/117148457文章。由于Xshell对三台服务器的链接需要通过ip地址,克隆时这3台ip地址都一样,所以需要调整HadoopSlaveServer1和H原创 2021-05-22 11:32:23 · 3135 阅读 · 0 评论 -
使用VMware制作分布式集群
使用VMware制作分布式集群 已经安装了VMware(制作单独的教程) 已经安装了一个CentOS系统(制作单独的教程) 如下图是一个安装好的linux服务器,取名为HadoopMasterServer 接下来通过VMware进行克隆 添加两个奴隶机或者叫从机这里注意:1.搭建集群至少得3台,所以我们使用的是一主两从,2.克隆前必须要把虚拟机服务器关闭,这样的状态下才能进行克隆3.克隆前最好把服务器里需要的软件环境搭建好,否则后来发现问题挨个调整...原创 2021-05-22 09:40:42 · 1039 阅读 · 0 评论