云计算技术研习：Lustre文件系统处理大文件

一、什么是Lustre文件系统

Lustre是HP， Intel，Cluster FileSystem公司联合美国能源部开发的Linux集群并行文件系统。该系统目前推出 1.0 的发布版本，是第一个基于对象存储设备的，开源的并行文件系统。其结构如图所示，它由客户端，两个MDS，OSD 设备池通过高速的以太网或 QWS Net 所构成。目前可以支持1000 个客户端节点的 I/O 请求，两个 MDS 采用共享存储设备的 Active－Standby方式的容错机制，存储设备跟普通的，基于块的 IDE 存储设备不同，是基于对象的智能存储设备。Lustre 采用分布式的锁管理机制来实现并发控制，元数据和文件数据的通讯链路分开管理。

 

Lustre系统结构图

二、 Lustre应用领域

 

Lustre是面向集群的存储架构，它是基于Linux平台的开源集群（并行）文件系统，提供与POSIX兼容的文件系统接口。Lustre两个最大特征是高扩展性和高性能，能够支持数万客户端系统、PB级存储容量、数百GB的聚合I/O吞吐量。Lustre是Scale-Out存储架构，借助强大的横向扩展能力，通过增加服务器即可方便扩展系统总存储容量和性能。Lustre的集群和并行架构，非常适合众多客户端并发进行大文件读写的场合，但目前对于小文件应用非常不适用，尤其是海量小文件应用LOSF（Lots Of SmallFiles）。Lustre广泛应用于各种环境，目前部署最多的为高性能计算HPC，世界超级计算机TOP 10中的70%，TOP 30中的50%，TOP 100中的40%均部署了Lustre。另外，Lustre在石油、天然气、制造、富媒体、金融等行业领域也被大量部署应用。

 

 

三、Lustre Stripe

 

Lustre采用对象存储技术，将大文件分片并以类似RAID0的方式分散存储在多个OST上，一个文件对应多个OST上的对象。Lustre系统中，每个文件对应MDT上的一个元数据文件，inode以扩展属性记录了数据分片布局信息，包括stripe_count（对象数）, stripe_size（分片大小）, str