
Hadoop
艳阳如一
笨,不可怕。但“懒”足以废掉一个人。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Hadoop的三种运行模式及区别
Hadoop的三种运行模式(1)本地模式(默认模式)不需要启用单独进程,直接可以运行,测试和开发时使用。(2)伪分布式模式等同于完全分布式,只有一个节点。需要配7个配置文件(待我后续整理后,会在此添加文章连接)(3)完全分布式模式多个节点一起运行。接下来我们来了解它的特点 单机模式(独立模式)(Local或Standalone Mode)-默认情况下,Hadoop即处于该模式...原创 2019-05-20 16:01:19 · 11301 阅读 · 0 评论 -
如何在linux下安装jdk和hadoop
这也是搭建hadoop集群前的准备工作,只有准备工作做好,集群才能正常运行,另外有需要压缩文件的人可以评论区联系我。准备工作1.给普通用户授予root权限(注意sudoers的权限)su (到root用户) cd /etc (到根目录下的etc) ll(查看sudoers的权限)(因为sudoers没有写权限,所以修改sudoers文件的权限)修改命令为chmod 777/u...原创 2019-05-25 19:25:03 · 1962 阅读 · 1 评论 -
VM如何克隆虚拟机(便于完全分布式的快速搭建)
需求我现在想要搭一个三台服务器的集群,但是现在只有一台Linux的虚拟机,我想在已有的虚拟机上快速复制一台新的虚拟机。现在,我用Clound10复制出Clound11出来。虚拟机设置虚拟机关机的情况下克隆1.在已有的虚拟机下右键点击“管理”–>“克隆”,出现如下画面,点击下一步。2.点击下一步。3.根据要求选择克隆方法,这里两种方法都可行,我选择创建完整克隆。点击下一步。4...原创 2019-05-26 19:38:15 · 4345 阅读 · 2 评论 -
在三种不同环境下,运行wordcount程序
单机模式下(1)创建在hadoop文件下面创建一个wcinput文件夹mkdir wcinput(2)在wcinput文件下创建一个wc.input文件cd wcinputtouch wc.input(3)编辑wc.input文件vim wc.input (输入内容后,按esc键,然后:wc保存编辑内容)(4)回到hadoop目录,执行程序:hadoop jar /home/...原创 2019-05-30 14:51:45 · 1076 阅读 · 0 评论 -
Hadoop的伪分布搭建
伪分布模式修改3个配置文件(1)配置:hadoop-env.sh(/home/hyn/software/hadoop/etc/hadoop)Linux系统中获取jdk的安装路径。(2)配置:core-site.xml(需要在hadoop文件夹下创建data文件夹,data文件夹下创建tmp文件夹)指定HDFS中NameNode的地址指定hadoop运行时产生文件的存储目录...原创 2019-05-24 09:21:03 · 314 阅读 · 0 评论 -
Hadoop的全分布部署
文章说明需要注意的地方会用黄色高光标注文章中用到的一些知识,我会选择性提供文章链接,可考录是否阅读。(一)初步了解搭建步骤准备工作1.虚拟机准备准备好三台安装好jdk和hadoop的虚拟机方法:可以克隆1台干净的虚拟机,做完所有jdk、hadoop配置后,将处理好的虚拟机克隆为集群,别忘了修改集群机器的IP和主机名如何更改用户名和主机名入口我这里用的是3台机器,分别为Clou...原创 2019-05-31 15:06:09 · 687 阅读 · 0 评论 -
搭建集群常遇到的问题及解决办法
1.web端无法查看HDFS文件系统(导致这个问题的原因有许多,需要自己找原因所在)原因1是否关闭linux系统的防火墙解决方法永久关闭防火墙(1)查看防火墙开机启动状态chkconfig iptables --list (2)关闭防火墙chkconfig iptables off临时关闭防火墙(1)查看防火墙状态sudo service iptables status(2...原创 2019-05-31 16:00:27 · 2826 阅读 · 0 评论 -
在idea上运行MR程序,生成文件后,文件打开为空的问题。(已解决)
文章目录问题背景我的代码问题解决过程正确的运行结果、及文件打开显示问题背景1.做毕设,需要对表中的不合法数据进行过滤、清洗。因为后期要用sqrksql知识完成毕设,所以在scala工程下创建项目,完成代码编程。第一次在scala工程下运行MR项目,生成的结果文件,很顺利,将需要的数据结果都保存到了文件里。但日后需要在原来的MR程序上对数据进行进一步完善时,发现生成的文件打开,内容为空。2.运...原创 2019-07-09 14:23:45 · 3630 阅读 · 1 评论