
hadoop
文章平均质量分 97
菜菜的中年程序猿
热爱编程的2B小青年
展开
-
Hadoop MapReduce HA搭建
MRAppMaster中如果ResourceManager 宕机了怎么办,与hadoop中的namenode问题一样,同样可以将 RM搭建高可用。 1、规划2、配置文件2.1 mapred-site.xml2.2 yarn-site.xml2.3 把配置文件传到 其他服务器上2.4 修改启动文件3、启动集群4、验证4.1 页面验证4.2 高可用验证 1、规划 准备四台虚拟机,规划如下 主机 node2 node3 node4 node5 节点 NameNode NameNode 节原创 2020-11-29 00:51:47 · 355 阅读 · 0 评论 -
hadoop mapreduce java 单词统计三个实现方法
1、统计文件准备1.1 创建需要统计单词的文件1.2 上传到hdfs文件系统上2、创建java项目2.1 配置文件2.2 java代码2.2.1 WordCountMapper 类2.2.2WordCountReducer 类2.2.3 MainClass 类3、参数设置4、运行结果 hadoop MapReduce框架可以让你的应用在集群中:可靠地、容错地、并行、处理TB级别的数据。 本实例通过idea运行java本地代码,实现统计单词计数。 hadoop集群搭建见hadoop基于zookeper自动.原创 2020-11-28 23:59:46 · 1464 阅读 · 0 评论 -
hadoop基于zookeper自动高可用搭建
背景1 机器规划2 安装前准备2.1 创建目录2.2 设置免密登录2.2.1设置主机名字2.2.2 免密登录设置3 安装包准备4 jdk安装5.安装 hadoop6 环境变量文件配置7 zookeper 安装7.1 解压7.2 环境变量配置7.3 zoo.cfg配置7.4 同步配置文件7.5 创建zookeper文件目录7.6 启动 zookeper8 hadoop 配置8.1hadoop java 环境变量配置8.2 core-site.xml8.3 hdfs-site.xml8.4 datanode配.原创 2020-11-16 01:05:07 · 562 阅读 · 0 评论