对象存储、块存储、文件存储的区别

https://yq.aliyun.com/articles/348167

参考链接

http://www.infoq.com/cn/articles/virtual-forum-three-basic-issues-about-distributed-storage

分布式存储的应用场景相对于其存储接口,现在流行分为三种:

  1. 对象存储: 也就是通常意义的键值存储,其接口就是简单的GET、PUT、DEL和其他扩展,如七牛、又拍、Swift、S3。
  2. 块存储: 这种接口通常以QEMU Driver或者Kernel Module的方式存在,这种接口需要实现Linux的Block Device的接口或者QEMU提供的Block Driver接口,如Sheepdog,AWS的EBS,青云的云硬盘和阿里云的盘古系统,还有Ceph的RBD(RBD是Ceph面向块存储的接口)
  3. 文件存储: 通常意义是支持POSIX接口,它跟传统的文件系统如Ext4是一个类型的,但区别在于分布式存储提供了并行化的能力,如Ceph的CephFS(CephFS是Ceph面向文件存储的接口),但是有时候又会把GFS,HDFS这种非POSIX接口的类文件存储接口归入此类。

按照这三种接口和其应用场景,很容易了解这三种类型的IO特点,括号里代表了它在非分布式情况下的对应:

  1. 对象存储(键值数据库):接口简单,一个对象我们可以看成一个文件,只能全写全读,通常以大文件为主,要求足够的IO带宽。
  2. 块存储(硬盘):它的IO特点与传统的硬盘是一致的,一个硬盘应该是能面向通用需求的,即能应付大文件读写,也能处理好小文件读写。但是硬盘的特点是容量大,热点明显。因此块存储主要可以应付热点问题。另外,块存储要求的延迟是最低的。
  3. 文件存储(文件系统):支持文件存储的接口的系统设计跟传统本地文件系统如Ext4这种的特点和难点是一致的,它比块存储具有更丰富的接口,需要考虑目录、文件属性等支持,实现一个支持并行化的文件存储应该是最困难的。但像HDFS、GFS这种自己定义标准的系统,可以通过根据实现来定义接口,会容易一点。

因此,这三种接口分别以非分布式情况下的键值数据库、硬盘和文件系统的IO特点来对应即可。至于冷热、快慢、大小文件而言更接近于业务。但是因为存储系统是通用化实现,通常来说,需要尽量满足各种需求,而接口定义已经一定意义上就砍去了一些需求,如对象存储会以冷存储、大文件为主。

### 三级标题:基本概念与区别 文件存储对象存储块存储是三种常见的数据存储方式,它们各自适用于不同的应用场景,并具有不同的特点。 文件存储以文件为单位进行数据管理,采用目录结构组织数据,并通常兼容POSIX文件系统API。这种方式适合需要层次化管理的应用场景,例如传统的文件服务器或需要目录结构支持的应用。 对象存储介于块存储文件存储之间,以RESTful API或者客户端SDK的形式供用户使用,更适合非结构化数据的存取。对象存储使用统一的底层存储系统,管理文件以及底层介质的组织结构,然后为每个文件分配一个唯一的标识,用户需要访问某个文件,直接提供文件的标识即可。大对象存储的实现本质上是键值对存储系统,采用扁平化的管理方式(根据键,找到值),值可以是任何东西,可以是小文件(小二进制片段),也可以是大文件。对象存储一般不支持追加和更新,面向的是一次入,取的需求场景。 块存储会将数据拆分成块,并单独存储各个块。每个数据块都有一个唯一标识符,所以存储系统能将较小的数据存放在最方便的位置。这意味着有些数据可以存储在Linux环境中,有些则可以存储在Windows单元中。由于块存储只负责数据取和入,因此具有高带宽、低延迟的优势,但是扩展能力有限,适用于对响应时间要求高的系统。比如数据库、ERP等企业核心应用的存储等。DAS、SAN这两种存储设备属于块存储类型[^2]。 ### 三级标题:适用场景 对象存储适合存储大量的非结构化数据,如图片、视频、文档等,这些数据通常不需要频繁修改,但需要易于访问和大规模扩展。对象存储通过RESTful API提供服务,使得互联网应用可以直接通过网络进行数据交互。 文件存储适合需要层次化文件目录结构的应用场景,例如Web服务器、FTP服务器等,这些应用通常需要标准的文件操作接口,如取、入、创建目录等。 块存储适合需要高性能随机访问的应用场景,例如数据库、虚拟机磁盘等,这些应用通常需要直接访问存储设备,并且对延迟敏感。 ### 三级标题:技术实现 Ceph的三种存储接口分别是块设备、文件系统、对象存储。Ceph的块设备存储接口提供了类似于传统SAN设备的功能,可以创建、列出、删除镜像等。RedHat的Ceph中块存储产品的命令行接口是:create image, list image, delete image[^1]。 对象存储通常不支持追加和更新,面向的是一次入,取的需求场景。采用RESTFul API。对象存储使用统一的底层存储系统,管理文件以及底层介质的组织结构,然后为每个文件分配一个唯一的标识,用户需要访问某个文件,直接提供文件的标识即可[^4]。 块存储由于其特性,具有高带宽、低延迟的优势,适用于对响应时间要求高的系统。例如数据库、ERP等企业核心应用的存储等。DAS、SAN这两种存储设备属于块存储类型[^2]。 ### 三级标题:代码示例 虽然这三种存储方式通常不涉及具体的编程代码,但我们可以简单模拟一个对象存储中上传和下载文件的基本逻辑: ```python class ObjectStorage: def __init__(self): self.storage = {} def upload_file(self, key, data): self.storage[key] = data def download_file(self, key): return self.storage.get(key, None) # 创建对象存储实例 os = ObjectStorage() # 上传文件 os.upload_file('file1', 'This is the content of file1.') # 下载文件 content = os.download_file('file1') print(content) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值