分布式文件系统---mdfs(iwantmoon.com出品)

Mdfs是一个基于主从结构的分布式文件系统,具备高负载均衡、高性能和高稳定性。它专注于处理小文件的大并发场景,设计符合国际先进标准。系统由master管理nameNode的元数据,slave管理dataNode存储文件。通过slave的心跳包实现动态扩展。本文介绍了如何启动和验证mdfs的分发与负载均衡功能。
部署运行你感兴趣的模型镜像

原文:http://iwantmoon.com/Post/81e63477b1a64e76833d6779e0e061ec

对分布式存储有兴趣的同学,可以加qq群一起讨论:299388502

本文原文也为我原创。


mdfs(Ming distributed file system)是一个负载均衡的分布式文件系统。mdfs具有高性能、高扩展性和高稳定性等特性,致力于解决小文件(如图片,而非电影)大并发背景下的一个非常好的方案,mdfs的标准是按照目前国际先进的标准进行设计和实现,所以它在目前同类产品中也算是比较先进的。



 mdfs是一个主从(master/slave)的实现,msaster管理nameNode维护元数据,slave处管理dataNode负责存储文件,如下图





下面我们通过图片看一下验证mdfs的过程



首先,启动msater节点





master启动后,会等待来自slave的心跳包,这些包,会告诉master,slave的信息,并且通过这些心跳包来更新slave们的状态,这样子我们可以有更好的水平扩展能力,我们可以随时增加slave节点,去解决性能和容量的扩展问题,同时,因为有了非常灵活的增加加节点的方式,也让mdfs成为一个拥有无限容量的文件系统。



在启动slave之后,我们先看看他的目录,如下图





直接运行:com.ming.store.slave.exe





为了演示分发和负载均衡,我们现在运行七个slave节点,同时分发因子为3





这个时候我们看到master接收到了来自7个不同来源的心跳包,现在我们可以向mdfs上传文件以验证了,不过,首先,我们先要看一下,slave们的存储目录,现在把所有slave的存储目录都设置在g:\download\mdfs下,他们之间通过自己的名称来创建自己的目录 :slave0,slave1 ……,为了更好的演示分发,我们先看一个空的目录:



注意看,现在这个目录下没有文件也没有目录,现在我们开发上传一个图片





这是演示通过mdfs client api上传图片的流程





这是client得到的master指派给他的机器,因为现在所有slave上面都没有数据,那么会随机选三个作为结果,现在我们看一下存储目录,以便 更好的展示





现在我们可以 看到slave4,slave5,slave6都已经有了自己的目录。



现在为了更好的验证负载均衡下的分发,我们再上传一个文件





这次master分派了slave1,slave2,slave3给client,这里我们再回忆一下,我们之前一共启动了7台slave,现在已经有6台已经分配 ,还有一台slave0还是空间的。



现在我们再看一下存储目录:





我们可以看到slave1,slave2,slave3……slave6都已经有了自己的目录。第二次分发的结果里面,没有之前已经分配 过的salve4,slave5,slave6,这样已经很好的验证了mdfs的负载均衡。



 



本人由于是一名技术人员,文档水平不好,这里请大家见谅,欢迎大家 就分布式文件系统(mdfs)进行讨论,我也会在这里为大家解答。

您可能感兴趣的与本文相关的镜像

Wan2.2-T2V-A5B

Wan2.2-T2V-A5B

文生视频
Wan2.2

Wan2.2是由通义万相开源高效文本到视频生成模型,是有​50亿参数的轻量级视频生成模型,专为快速内容创作优化。支持480P视频生成,具备优秀的时序连贯性和运动推理能力

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值