Zoned Storage-应用

最新推荐文章于 2025-04-15 10:27:16 发布

翻译

最新推荐文章于 2025-04-15 10:27:16 发布 · 941 阅读

1 ·

CC 4.0 BY-SA版权

原文链接：https://zonedstorage.io/docs/applications/zenfs

文章标签：

#linux #分区存储 #kv #Rocksdb

ZenFS是RocksDB的文件系统插件，支持Zoned块设备，减少了写入放大并提高了性能。通过将文件分进zones并利用“write lifetime hints”，ZenFS避免了后台垃圾收集，提升了系统吞吐量、尾部延迟和耐用性。ZenFS的内部结构使用libzbd库管理zone，文件分配策略基于extent。文章还介绍了ZenFS的构建、安装、命令行工具及其在基准测试中的表现。

Zoned Storage-应用

RocksDB with ZenFS

RocksDB with ZenFS

ZenFS介绍

RocksDB 是用于快速存储设备的持久KV存储。它是使用 Log-Structured Merge-Tree (LSM-tree) 数据结构实现的。它类似于基于 LSM-tree 的键值引擎实现：值存储在按键递增顺序排序的表中。表是按顺序写入的，从不修改。 LSM-tree 数据结构的这一基本原理使得支持zoned块设备成为可能。

RocksDB 的存储插件架构使得适应不同的存储后端成为可能。更重要的是，ZenFS 实现了对 zoned 块设备的支持并集成到 RocksDB 中。

ZenFS 是 RocksDB 的文件系统插件，它使用 RocksDB FileSystem [sic] 接口将文件放置到原始zoned块设备上的zones中。通过将 files 分进 zones 并利用 **“write lifetime hints”（WLTH）**来共同定位相似生命周期的数据，与传统块设备上的常规文件系统相比，ZenFS 可以减少系统写入放大。 ZenFS 确保文件系统或设备上没有后台垃圾收集，从而提高了吞吐量、尾部延迟和耐用性方面的性能。

ZenFS 可以使用 extent 分配策略将多个文件存储在单个zone中。一个文件可以由一个或多个 extents 组成，所有extents 构成的文件可以存储在设备的同一zone（或不同zones）中。一个extent从不跨越多个zones。当区域中的所有file extents都无效时，可以重置该zone，然后重新使用以存储新的file extents。(一个文件由于1个或多个extents组成，该文件可以存储在1个和多个zones中，1个extent不可以出现在多个zones中)

ZenFS 根据 RocksDB 库提供的**“write lifetime hints”（WLTH）** 将file extents 放置到zones中。当 WLTH 相似时，ZenFS 总是尝试将file extents 放在相同的 zone 中。

在 ZenFS 中，数据垃圾收集仅由 RocksDB 在启动 LSM-tree 表压缩过程时执行。 ZenFS 不执行垃圾回收，ZNS 设备控制器也不执行垃圾回收。(ZenFS和ZNS SSD 控制器本身都不提供GC机制。垃圾回收是由于KV Compaction执行的)

注意 ZNS: Avoiding the Block Interface Tax for Flash-based SSDs USENIX ATC 2021 文章中提供了更多信息。

ZenFS 内部结构

架构概述

ZenFS 实现了 FileSystem的 API，并将所有数据文件存储到原始分区块设备上。 LOG和LOCK文件存储在可配置目录下的默认文件系统中。区域管理通过 libzbd 完成，ZenFS io 通过正常的 pread/pwrite 调用完成。
文件系统实现
文件被映射到一组extents中：
- Extents是块设备上的块对齐的连续区域
- Extents不跨越zones
- 一个zone可能包含多个extents
- 来自不同文件的extent可能共享zones
数据回收
ZenFS 在当前的实现状态下异常懒惰，并且不进行任何垃圾收集。随着文件被删除，已用容量zone计数器会下降，当它达到零时，可以重置和重复使用zone。
元数据
元数据存储在块设备的第一个zone的rolling log中。

每个有效的元数据区包含：
- 具有当前序列号和全局文件系统元数据的超级块
- 文件系统中所有文件的至少一个快照
- 增量文件系统更新（新文件、新扩展区、删除、重命名等）

Getting Started

Prerequisites

ZenFS 需要 Linux 内核版本 5.9 或更高版本。使用的内核必须配置为zoned block device support enabled.

ZenFS 使用 libzbd 库。在构建和安装 ZenFS 之前，必须编译和安装此库的最新版本。

构建和安装 ZenFS

ZenFS 嵌入到 RocksDB 中。它可以作为 RocksDB 中的子模块使用，并且必须在编译 RocksDB 时显式启用。

ZenFS 项目 README 文件中维护了解释如何使用 ZenFS 编译和安装 RocksDB 的说明。

注意请记住将块设备 IO 调度程序设置为“deadline”，以防止写入操作被重新排序。这可以在系统引导时自动完成。

ZenFS 命令

ZenFS 提供了一个名为 zenfs 的命令行实用程序。此实用程序用于格式化zoned设备以创建新文件系统、列出文件以及备份和恢复文件系统。

创建 ZenFS 文件系统
要创建或格式化分区块设备（例如，NVMe ZNS 设备 /dev/nvme0n1），请使用以下命令：
```
zenfs mkfs --zbd=nvme0n1 --aux_path=/tmp/zone-aux --force

# Output example
ZenFS file system creat
```