GlusterFS将与Hadoop兼融

Ceph vs HDFS vs GlusterFS vs MinIO:分布式存储架构与实践全解析 一句话总结要通吃对象+块+文件 → 用Ceph。要做大数据 → 用HDFS。要简单文件共享 → 用GlusterFS。要云原生对象存储 → 用MinIO。 阅读详情

大数据需要大文件系统,这就是开放源码的 GlusterFS 文件系统在即将发布的GlusterFS 3.3版本的设计目标。

Gluster 项目在本周出了GlusterFS 3.3的第二个测试版本,最终发行版预计在今年年底前。新的发行版提供了与Apache Hadoop 的集成点,可以让Hadoop用户使用Gluster存储。对于Gluster,其文件系统和 Hadoop 的 HDFS (Hadoop 文件系统)都是注册的(comptable不会翻译),但是 Gluster 提供了一些额外的好处,包括可扩展性和性能方面的改进。

  

“GlusterFS3.3在其文件系统中新增了两种协议”,Gluster的CTO兼董事Periasamy说。“其中一种是对象协议,因此你能以对象的方式访问数据,和Amazon S3的协议类似”


Periasamy指出第二种协议是与HDFS兼容的API

“所以你可以在Gluster上做大数据应用和MapReduce”Periasamy说道

至于现在为什么Gluster添加对Hadoop的支持,Periasamy指出有很多原因。他指出市场的趋势是整个堆栈汇合。此前有类似SAN和NAS的存储池,但它们都只针对特定类型的应用程序。

“我们可以看到,对象存储正在成为存储长期非结构化数据另一个选择”,Periasamy说。“我们现在能够通过Internet轻松扩展并访问存储。”

在HDFS和Hadoop的基础上,Periasamy指出,Hadoop中是先有数据,然后再有应用。他解释说,使用Hadoop的MapReduce框架,一大堆的应用现在已启用,它的增长注入了强大的生态系统。

Periasamy说:“存储引擎最初只是为了处理某些工作负载,元数据服务器是其中一个瓶颈。”

他用HDFS的元数据来作解释。所有的元数据集中存储在一个单一的系统内存中,这是一个横向扩展的性能瓶颈。相比之下,Periasamy指出,Gluster已经具备了强大的存储引擎而没有这种元数据瓶颈。

Periasamy说:“GlusterFS从存储的角度看待大数据的问题,而Hadoop项目是从分析的角度来看待大数据问题”。

因此,Periasamy认为,Hadoop社区用Gluster来做大数据存储后端会带来很多好处。他解释说,Hadoop本身已经足以使Gluster文件系统以模块化的形式插入。

此外Periasamy还指出,Gluster的复制模式,可以使Hadoop的更好的扩展。 Periasamy解释说,Gluster具有保持同步多个站点的复制模块。不依赖于快照复制模型,而是数据的变化发生同步。

“当数据发生变化时,我们有能力按位同步,使我们能够有一个持续的地域复制,”Periasamy说。

展望未来,Periasamy说地理复制将继续在Gluster的下一个版本中增强。

“在GlusterFS3.4中,我们能使故障从一个站点转移到另一个站点,”Periasamy说。

 

参考资料:

1.http://www.chineselinuxuniversity.net/news/87589.shtml

2.http://www.businesswire.com/news/home/20110823005899/en/Gluster-Announces-Apache-Hadoop-Storage-Compatibility-Latest

Gluster_Hadoop_Compatible_Storage.pdf Glusterfs(分布式文件系统) Hadoop到结合 立即下载

相关推荐

GlusterFSHadoopPlugin.zip

该插件使得 Hadoop 可以使用 GlusterFS 作为后端的存储系统。 标签:​glusterfs

glusterfs 与 hdfs对比

glusterfs

peter_cloud的专栏 5680

MAX31865三线PT100测温实战:配置、接线与代码全解析

本文详细解析MAX31865三线PT100测温的配置、接线与代码实现。通过实战经验分享,介绍如何利用MAX31865芯片实现高精度温度测量,重点讲解三线制接法的自动误差补偿功能,并提供完整的寄存器配置、SPI通信和温度转换算法,帮助开发者快速解决工业测温中的常见问题。

ss78901的博客 757

hadoop_on_glusterfs

Hadoop On GlusterFSAuthor By esxu2015.07.09概述GlusterFS为Apache Hadoop提供了兼容性,它使用Hadoop中的标准文件系统API为Hadoop的部署提供新的存储选项。现有的基于MapReduce的应用程序可以使用GlusterFS无缝连接。 提供Hadoop的范围内同时基于文件和基于对象的访问 消除了集中的元数据节点 兼容原有MapRed

当你感觉累的时候,证明你正在走上坡路! 2119

Windows与Linux安装miniconda并启动python项目及指令

官方介绍:Miniconda 是 conda 的免费最小安装程序。它是 Anaconda 的一个小型引导版本,仅​​包含 conda、Python、它们都依赖的包以及少量其他有用的包(例如 pip、zlib 等)。如果您需要更多软件包,请使用该 命令从 Anaconda 公共存储库或其他渠道(例如 conda-forge 或 bioconda)默认提供的数千个软件包中进行安装。minicoda下载地址最好挂个梯子。如果你需要指定版本的conda,可以在这里下载历史版本的miniconda。

一直走的很慢的鸭子 3191

零信任架构实战:“持续验证+动态授权”全流程解析(附策略引擎联动图)

《零信任实战指南:7图拆解核心流程与行业案例》摘要:本文通过7张架构图系统解析零信任五大核心流程:强身份认证、设备检查、动态授权、持续监控和自动降权。对比金融(重数据审计)与制造业(重物理绑定)的落地差异,指出三大常见误区及解决方案。数据显示,零信任可使安全响应提速60%,泄露成本降低45%。文章提供6个月实施路线图,强调零信任是"智能信任"体系,建议企业分阶段改造,优先保护核心系统。附赠金融/制造行业策略模板及甘特图示例。(149字)

sara_han的博客 773

分布式文件系统的性能优化:HDFS和GlusterFS的实现

1.背景介绍 分布式文件系统(Distributed File System, DFS)是一种在多个计算节点上存储数据,并提供统一文件系统接口的系统。分布式文件系统的主要优势是可扩展性和高可用性。随着大数据时代的到来,分布式文件系统的应用越来越广泛。 HDFS(Hadoop Distributed File System)和GlusterFS是两种常见的分布式文件系统。HDFS是一个基于Had...

AI天才研究院 1093

智能驾驶感知模块的测试评估方法(上)

对于智能驾驶系统而言,感知模块是开发难度最大、投入资源最多的核心部分。在智能驾驶开发团队内部,感知模块需要独立进行评测才能及早发现潜在缺陷或判断性能是否有改进。随着近几年BEV、OCC、E2E等新技术方案被越来越多企业应用,感知的评测变得越来越艰难,效率也变得越来越低下。本文作者基于在智驾测试行业多年经验,试图总结感知评测的基本规律和效率提升方法,以供读者一些启发。

vincent_321的博客 2559

Hbase+GlusterFS可行性

通过测试时证明:在分布式模式下GlusterFs可以代替hadoop的HDFS,作为Hbase的底层数据存储。            配置过程如下:                       首先,介绍下搭建的集群模型:                                   共4太服务器,hostname分别为:h221  h222  d184 d186(各个服务器之间可以s

lin_FS的专栏 4271

MicroPython跨平台移植实战:从源码解析到STM32+FreeRTOS部署

本文详细解析了MicroPython的跨平台移植实战,重点介绍了如何将其从源码开始,成功部署到STM32微控制器并运行于FreeRTOS实时操作系统。内容涵盖源码结构解析、编译环境搭建、内存管理协调、FreeRTOS任务集成、数学库(math)启用与优化,以及自定义模块开发等核心步骤,为开发者提供了一套完整的、可操作的嵌入式Python移植方案。

vodka的博客 1014

内存优化--LOGBACK导致内存告警

一.故事背景 由于开辟新市场需要,开发了新的项部署在海外平台,其中最消耗内存的功能是消费kafka消息(最开始预计一天有1千万的量),部署完之后运行一段时间发现出现内存告警问题。 二.分析问题 出现内存告警,(新项目是低配置机器 2C4G * 2台)第一个念头是去查看堆空间设置的情况,看到jvm启动命令中堆空间都是直接指定大小,说明问题不是出在堆空间 -Xmx3g -Xms3g 先不管这些,去查看总的内存使用情况,发现总的内存空间使用将近有92% = 3.68G,那么这多出来使用的0.6

qq_33199919的博客 6051

GlusterFS

GlusterFS 是一个开源的分布式文件系统,旨在为海量数据存储提供高性能、可扩展、和灵活的解决方案。它由 Gluster 公司开发,后被 Red Hat 收购。弹性 Hash 算法(Elastic Hash Algorithm)是 GlusterFS 用于分布数据的一种方法,类似于 Redis 的哈希槽。它的具体实现基于 Davies-Meyer 算法,通过将数据均匀分布在多个存储单元(Bricks)上,从而提高系统的可靠性和性能。

weixin_64447699的博客 1558

TGAT Python:图神经网络中的动态图算法

其中,图神经网络中的动态图算法成为了研究的热点之一。在模型的 forward 方法中,通过循环调用 TGATLayer 实例来进行图神经网络的前向传播。最终,模型返回图中节点的表示向量 output,可以用于图分类等任务。TGAT 算法的核心思想是在节点之间建立注意力连接,以捕捉节点在不同时间步之间的关系。TGAT 算法通过引入注意力机制和时间信息,从而有效地对动态图数据进行建模和分析。通过以上 Python 代码,我们可以方便地构建和训练 TGAT 模型,并在图分类任务中应用它。

2301_79366435的博客 1826

配置glusterfs 支持MapReduce 计算

前言       hdfs存储系统原生支持mapreduce计算框架,但是其对外提供的访问接口并不支持严格POSIX语义,通俗点讲就是不能直接支持其他应用,例如HDFS不能够直接文件服务器,web服务器的存储系统。尽管后续的一些模块 如fuse-dfs,webdav等尝试为HDFS提供标准接口的存储系统,但是经过多个组件的转化,存储系统效率受到了极大的影响。      一方面,考虑到存储系统和

业余程序员kuma的专栏 846

【算能】TPU 指令集架构深度解析

TPU指令集以领域专用性与数据流驱动为核心,通过精简指令集、硬件固化逻辑与高并行架构,实现张量计算的极致性能。开发者通常无需直接编写指令,但理解其设计原理对性能调优(如内存布局优化、指令调度)至关重要。算能TPU通过开放指令描述与编译器工具链,为垂直行业提供了更高灵活性的定制空间,而谷歌TPU则依赖编译器的全自动化优化,更适合大规模标准模型部署。未来,随着稀疏计算、光子计算等技术的引入,TPU指令集将进一步向高能效与高泛化性演进。

浩瀚之水的专栏 1182

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

GlusterFS 和 Ceph 比较

两个产品Ceph和Gluster是Red Hat旗下的成熟的开源存储产品,Ceph与GlusterFS 在原理上有着本质上的不同。但是两个都是非常灵活的存储系统,在云环境中表现也是非常出色。 Ceph是什么? Ceph基于一个名为RADOS的对象存储系统,使用一系列API将数据以块(block)、文件(file)和对象(object)的形式展现。Ceph存储系统的拓扑结构围绕着副本与信息分布,这使得该系统能够有效保障数据的完整性。 GlusterFS是什么? GlusterFS描述为Scale-ou

thomas.he 1万+

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

k8s + heketi + glusterfs动态存储管理及扩容GlusterFS集群 一路踩坑记录

k8s + heketi + glusterfs动态存储管理及扩容GlusterFS集群

qq_15138049的博客 1万+

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

分布式存储之GlusterFS

【背景需求】当前项目内部使用的文件系统有GlusterFS,FastDFS和NFS等,由于文件系统在海量小文件(大量散文件碎片化文件)和高并发之下性能急剧下降,性能遭遇瓶颈,因此打算建设分布式对象存储平台。 分布式文件存储的来源 在这个数据爆炸的时代,产生的数据量不断地在攀升,从GB,TB,PB,ZB.挖掘其中数据的价值也是企业在不断地追求的终极目标。但是要想对海量的数据进行挖掘,首先要考虑的就是海量数据的存储问题,比如Tb量级的数据。 谈到数据的存储,则不得不说的是磁盘的数据读写速度问题。早在上个世

Enweitech Software Works 4350

glusterfs中部署mysql_GlusterFS部署

一、GlusterFS简介PB级容量、高可用、读写性能、基于文件系统级别共享、分布式、无metadata(元数据)的存储方式。GlusterFS(GNU ClusterFile System)是一种全对称的开源分布式文件系统,所谓全对称是指GlusterFS采用弹性哈希算法,没有中心节点,所有节点全部平等。GlusterFS配置方便,稳定性好,可轻松达到PB级容量,数千个节点。2011年被红帽收购...

weixin_33736210的博客 386

GlusterFS部署

转载:https://www.cnblogs.com/fansik/p/9868831.html 注意区分复制卷和分布式复制卷的区别? 答:纯复制卷brick=replica,分布式复制卷中brick数是replica倍数! 一、GlusterFS简介 PB级容量、高可用、读写性能、基于文件系统级别共享、分布式、无metadata(元数据)的存储方式。 Gluster...

fei的专栏 870

GlusterFS与云原生存储:现代化应用架构的最佳实践

GlusterFS作为一款开源的分布式文件系统,正在成为云原生存储解决方案的核心组件。它能够快速构建可扩展至PB级别的存储基础设施,完美适配现代容器化应用对持久化存储的需求。 ## 为什么云原生应用需要GlusterFS存储? 在云原生环境中,应用通常以容器化方式运行,需要持久化存储来保存数据。GlusterFS提供了理想的解决方案: - **横向扩展能力**:轻松添加存储节点,实现容量和性

gitblog_00547的博客 1018

GlusterFS的分析与应用【毕业论文】

                  GlusterFS 的分析和应用       [ 论文摘要] 随着互联网发展的深入,数据存储的需求得到了空前的增长。如何利用软件在廉价机器上实现高性能、高容量、高可靠性、高扩展性的存储系统便成了很值得研究的问题。作为一个分布式文件系统, GlusterFS 采用了独特的弹性 hash 算法,实现了没有元数据的非中心式的架...

wesleydeng的博客 702

CubeFS与其他分布式文件系统对比:Ceph、GlusterFS、HDFS

在当今数据爆炸的时代,**分布式文件系统**已经成为企业和开发者处理海量数据的必备工具。作为新一代云原生分布式文件系统,CubeFS在架构设计、性能表现和存储效率方面都有着独特的优势。本文将为您详细对比CubeFS与Ceph、GlusterFS、HDFS这四大主流系统,帮助您选择最适合的存储方案。🚀 ## 为什么需要了解分布式文件系统对比? 随着云计算和大数据技术的快速发展,传统的本地存储已

gitblog_00787的博客 484

GlusterFS如何解决分布式文件系统的难题?

很多人容易将分布式存储和分布式文件系统的概念搞混,我先做一个概念上的梳理: 分布式存储所涵盖的范围极广,例如NFS,虽然只是用于目录共享的网络文件系统,但是它也属于分布式存储范畴,再比如说分布式对象存储,例如Ceph体系不仅包括了分布式文件系统CephFS,也包括了Ceph分布式对象存储,它们都属于分布式存储范围。 分布式文件系统(DFS)最关键的一个特征就是模拟了本地文件系统的目录层次,这对于文件在虚拟目录中的移动,管理具有很好的优势,首先这个优势是分布式对象存储等无法做到的。.........

守护石大数据 1万+

GlusterFS基础知识

一、什么是GlusterFS     glusterfs是一个横向扩展的分布式文件系统,就是把多台异构的存储服务器的存储空间整合起来给用户提供统一的命名空间。用户访问存储资源的方式有很多,可以通过NFS,SMB,HTTP协议等访问,还可以通过gluster本身提供的客户端访问。 二、典型部署拓扑图 三、概念和算法 1、Trusted Storage Pool •

uj_mosquito的专栏 4695
上一篇: Hadoop文件系统(HDFS)快速安装与使用
下一篇: GlusterFS中的RAID
peter_cloud
博客等级 码龄15年 24粉丝 30原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值