Hadoop集群环境的搭建

本文详细介绍如何在两台虚拟机上搭建Hadoop集群的过程,包括主机名及网络配置、HDFS和MapReduce配置等关键步骤。

我们一般使用hadoop都会在虚拟机上面,所以我针对的都是在虚拟机上的hadoop集群。

准备阶段

1,:将原来搭建的hadoop单机版环境的虚拟机拷贝一份(详细信息http://blog.youkuaiyun.com/fullyfang/article/details/9391835).

2:准备两台服务器,如下:

         机器名                 IP地址                                  作用

     hadoop.main             192.168.0.105                运行 NameNode,JobTracker,DataNode,TaskTracker

     hadoop.slave            192.168.0.104                            运行 DataNode,TaskTracker

     注:IP地址的和用户名的设置根据自己实际情况而定且两台主机必须使用相同的用户名运行hadoop


实践阶段

3:修改主机的名称 输入 vi /etc/hostname,将hostname修改为hadoop.main  按x保存后退出。

      再输入:vi /etc/hosts修改网络,输入:

      192.168.0.105           hadoop.main localhost

      192.168.0.104           hadoop.slave(我的是redhat,可能不同的linux显示数据不一样,视具体情况而定), 按x保存后退出。

4:修改另一台服务器的主机名  

 vi /etc/hostname,将hostname修改为hadoop.slave 按x保存后退出。

      再输入:vi /etc/hosts修改网络,输入:

      192.168.0.105           hadoop.main

      192.168.0.104           hadoop.slave  localhost ,按x保存后退出。

5:修改2台主机的core-site.xml,配置HDFS的地址和端口号
   vi conf/core-site.xml


   <configuration>
   <property>
       <name>fs.default.name</name>
       <value>hdfs://hadoop.main:9000</value>   
   </property> 
   </configuration>

6:修改2台主机的MapReduce的配置文件,配置的是JobTracker的地址和端口 
   vi conf/mapred-site.xml

   <configuration>
   <property>
       <name>mapred.job.tracker</name>
       <value>hadoop.main:9001</value>
   </property>
   </configuration>

7,修改2台主机中的hadoop配置文件masters,输入vi  /home/hadoop/cof/masters
   输入:hadoop.main,按x保存后退出。

8,修改2台主机中的hadoop配置文件slaves,输入vi  /home/hadoop/cof/slaves
   hadoop.main
   hadoop.slave,按x保存后退出。

9:在haddop.main节点中的hadoop安装目录下运行
   bin/hadoop namenode -format

10:启动hadoop
   bin/start-all.sh

注:5—9步两台机器的配置和操作是一样的。

上述步骤完成之后,在浏览器中输入:http://localhost:50070/ 后打开hdfs页面

点击Live Nodes 。

显示:Live Datanodes : 2说明集群环境搭建成功。


内容概要:本文详细介绍了一个基于Java和Vue的联邦学习隐私保护推荐系统的设计与实现。系统采用联邦学习架构,使用户数据在本地完成模型训练,仅上传加密后的模型参数或梯度,通过中心服务器进行联邦平均聚合,从而实现数据隐私保护与协同建模的双重目标。项目涵盖完整的系统架构设计,包括本地模型训练、中心参数聚合、安全通信、前后端解耦、推荐算法插件化等模块,并结合差分隐私与同态加密等技术强化安全性。同时,系统通过Vue前端实现用户行为采集与个性化推荐展示,Java后端支撑高并发服务与日志处理,形成“本地训练—参数上传—全局聚合—模型下发—个性化微调”的完整闭环。文中还提供了关键模块的代码示例,如特征提取、模型聚合、加密上传等,增强了项目的可实施性与工程参考价值。 适合人群:具备一定Java和Vue开发基础,熟悉Spring Boot、RESTful API、分布式系统或机器学习相关技术,从事推荐系统、隐私计算或全栈开发方向的研发人员。 使用场景及目标:①学习联邦学习在推荐系统中的工程落地方法;②掌握隐私保护机制(如加密传输、差分隐私)与模型聚合技术的集成;③构建高安全、可扩展的分布式推荐系统原型;④实现前后端协同的个性化推荐闭环系统。 阅读建议:建议结合代码示例深入理解联邦学习流程,重点关注本地训练与全局聚合的协同逻辑,同时可基于项目架构进行算法替换与功能扩展,适用于科研验证与工业级系统原型开发。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值