自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 收藏
  • 关注

原创 Mapreduce(占40分)

MapReduce是一个分布式运算程序的编程框架,是用户开发“基于Hadoop的数据分析应用”的核心框架。MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个Hadoop集群上。

2026-05-25 14:38:32 347

原创 期末必考-

(7)客户端开始往dn1上传第一个Block(先从磁盘读取数据放到一个本地内存缓存),以Packet为单位,dn1收到一个Packet就会传给dn2,dn2传给dn3;(5)客户端通过FSDataOutputStream模块请求dn1上传数据,dn1收到请求会继续调用dn2,然后dn2调用dn3,将这个通信管道建立完成。(3)DataNode开始传输数据给客户端(从磁盘里面读取数据输入流,以Packet为单位来做校验)(2)挑选一台DataNode(就近原则,然后随机)服务器,请求读取数据。

2026-05-18 15:38:04 53

原创 HDFS客户端操作

windows(不属于集群的机器)(HDFS客户端代码)------控制整个集群。集群(master(shell),slave1,slave2,slave3)Maven-----管理项目依赖,打包,构建。

2026-05-09 13:58:14 42

原创 查看出现问题的原因-log

根据log查询到exception,定位到文件/usr/local/hadoop/etc/hadoop/mapred-site.xml犯错。1.集群起不来的DataNode(master,slave2,slave1,slave3)slave1的DataNode没有正常启动。2.使用jps,查看进程哪些有问题。配置文件有问题(具体哪个有问题?slave1有问题。

2026-04-20 14:20:50 31

原创 hadoop

最后的地址:/usr/local/hadoop/tmp/dfs/data/current/BP-1572212494-172.18.0.2-1774500901217(自己的块id名字)/current/finalized/subdir0/subdir0。cd /usr/local/hadoop/tmp/dfs/data/current/BP-1572212494-172.18.0.2-1774500901217(自己的块id名字)/current/finalized/subdir0/subdir0。

2026-04-20 14:01:02 526

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除