ceph rbd基本原理

最新推荐文章于 2024-07-05 02:52:27 发布
原创 最新推荐文章于 2024-07-05 02:52:27 发布 · 491 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#后端

博主总结了RBD相关知识点，此次未涉及快照原理和克隆原理，计划后续补充相关内容。

最近总结了一下rbd相关的知识点，对快照原理和克隆原理没有讲，后续补上。

在这里插入图片描述

Ceph介绍之RBD实现原理
shuningzhang的专栏
11-28 1万+
RBD是Ceph提供的块设备，本文将简要介绍一下其实现原理。 Ceph官方文档告诉我们Ceph本质上也是对象存储。而且了解到，Ceph的块存储其实在客户端也会被分为若干个对象进行处理。也即，对于Ceph集群，存储数据的格式就行对象。如下图所示，从镜像（块存储的呈现形式）的信息可以看出，块存储的组成及属性。 图 1 RBD镜像属性 创建存储池的镜像之后，在存储池中会有相关的对象数据
Ceph RBD块存储详解
悦分享
01-21 670
块存储接口通常以 QEMU Driver 或者 Kernel Module 的方式存在，这种接口需要实现 Linux 的 Block Device 的接口或者 QEMU 提供的 Block Driver 接口，如 Sheepdog，AWS 的 EBS，青云的云硬盘和阿里云的盘古系统，还有 Ceph 的 RBD（RBD是Ceph面向块存储的接口）。块存储将信息存储在固定大小的块中，每个块都有自己的地址，可以在块设备的任意位置读取一定长度的数据。以hd开头的块设备文件对应的是IDE接口的硬盘。
Ceph集群搭建系列（六）：RBD块设备的使用场景、原理分析及其创建
Yannick Jiang 的专栏
07-17 3889
一、前言 下图数据出自2018年ceph社区用户调查报告，Ceph RBD接口的使用场景主要是VM和DB数据库。 而使用Ceph RBD的接口方式的用户数据如下，主要是librbd 和 kernel RBD，如下图： 那么对于初学者来说，librbd 和 linux kernel RBD是什么？通过它们来访问RBD块设备有什么区别呢？ 二、librbd 和 linux kernel...
Ceph RBD 的实现原理与常规操作
大隐隐于野
10-16 1009
Ceph RBD 是企业级的块设备存储解决方案，支持扩缩容、支持精简置备，具有 COW 特性，一个块设备（Volume）在 RADOS 中会被分割为若干个 Objects 储存。
Ceph rbd 存储原理
weixin_35664258的博客
04-10 2394
创建一个rbd [root@node1 ~]# rbd create bar --size 2048 [root@node1 ~]# rados -p rbd ls rbd_header.86f46b8b4567 rbd_directory rbd_id.bar rbd_children rbd_info rbd_trash 系统创建名为bar的rbd时会为期生成一个id，如：86f46b8b...
ceph rbd快照原理解析
liukuan73的专栏
04-27 1843
转载自：http://www.sysnote.org/2016/02/28/ceph-rbd-snap/ 前段时间一直在研究ceph的快照以及其所涉及的故障恢复逻辑，ceph在这部分的实现挺精妙的，虽然也是基于COW实现的，但是细细品来，其在快照的元数据管理以及父子关系的维护上有独到之处，本文将详细阐述快照的实现原理以及快照对象在恢复时如何至关重要的作用。 1.rbd快照的直观理解 ceph...
Ceph集群RBD块存储：快照与Copy-on-Write克隆的基本操作
江晓龙的博客
05-24 1719
链接克隆是基于父镜像（快照）中快速创建出来的一个链接镜像（写时复制镜像），链接镜像读取数据是从父镜像中进行的，写数据是在链接镜像中进行的，通过链接克隆可以快速的克隆出很多个镜像，并行这些镜像都可以直接使用。copy-on-write机制其实就是将一个快照快速克隆成了一个写时复制镜像，快照是只读的，写数据都是在克隆的镜像里进行的，使用这个克隆的镜像就可以快速创建出虚拟机。父镜像都是只读类型的，将块设备进行快照的创建和保护快照，就可以创建出任意数量的写时复制克隆，也就是链接镜像。尝试删除快照，发现无法删除。
Ceph RBD：克隆 + 克隆卷元数据/数据IO详解
easonwx的博客
04-21 3326
文章目录引言克隆概述本文结论克隆的元数据结构创建卷vol_0创建快照vol_0_snap_0创建克隆卷vol_0_snap_0_clone_0克隆卷元数据克隆卷的元数据有哪些？如何找到clone卷对应的原卷？如何找到clone卷对应的快照？如何通过原卷找到clone卷？主要元数据总结创建clone卷流程克隆卷数据创建卷vol_1，写入8M数据创建快照vol_1_snap_0创建克隆卷vol_1_snap_0_clone_0读克隆卷0-1M位置写克隆卷4M-5M位置读写数据总结扁平化创建卷vol_2，写入8M
ceph rbd 结合 k8s 提供存储卷及动态存储卷使用案例
m0_37749659的博客
06-08 426
存储池启用 rbd初始化存储池。
Ceph 工作原理详解
因上努力，果上随缘。但行好事，莫问前程。
06-06 4178
目录 一、Ceph概述 1.1 RADOS逻辑架构 1.2 OSD逻辑结构 1.2 Ceph 基本组件 1.4Ceph存储过程 (Ceph IO算法流程) 1.5Ceph集群 1.6Ceph特点 1.7Ceph架构 1.8Ceph核心组件及概念✌️✌️ 二、三种存储类型 2.1 块存储 rbd 2.2 文件存储 fs 2.3 对象存储 rgw 三、Ceph IO流程及数据发布 3.1 正常io流程图 3.2 新主io流程图 3.3 Ceph IO算法流程 3.....
cephrbd分析
11-27
该文档是ceph分布式存储系统的客户端rbd的分析
ceph工作原理和架构总结
11-07
ceph简介，系统层次结构，ceph的部署，ceph的应用，ceph的运维，基于ceph构建私有云存储方案
Ceph学习 -11.块存储RBD接口
TT-Learning
04-19 2814
Ceph学习
③ Ceph—RBD块设备介绍与创建
linux丶晨星
08-19 2894
文章目录一、RBD介绍二、RBD常用命令三、RBD配置操作3.1 RBD挂载到操作系统3.2 快照配置3.3 导出导入RBD镜像3.4 扩容 一、RBD介绍 RBD即RADOS Block Device的简称，RBD块存储是最稳定且最常用的存储类型。RBD块设备类似磁盘可以被挂载。 RBD块设备具有快照、多副本、克隆和一致性等特性，数据以条带化的方式存储在Ceph集群的多个OSD中。如下是对Ceph RBD的理解。 RBD 就是 Ceph 里的块设备，一个 4T 的块设备的功能和一个 4T 的 SAT
ceph rbd mirror
weixin_41507163的博客
07-05 247
动一下小手点一下赞。谢谢！ 你的赞就是我更新的动力。Ceph RBD Mirror:保证数据可用性和高可靠性的关键技术在当今数据密集型的应用和云计算环境下，数据的安全性和可靠性成为用户最关注的问题之一。为了满足这一需求，不断发展演进的技术方案也应运而生。其中，Ceph RBD Mirror作为一个关键的技术组件，为数据的镜...
【分析】Ceph and RBD Mirroring：Luminous
渡江客涂鸦板
10-01 1552
高可用是一个应用程序的关键能力。理想情况下，应用程序本身是支持高可用的。正由于此，RBD mirroring也需要支持高可用。我们可能在任意数量的机器上运行任意数量的守护进程，将有专门的线程来负责如何分布负载和镜像
浅析ceph rbd快照原理
weixin_34198762的博客
07-03 322
2019独角兽企业重金招聘Python工程师标准>>> ...
【CEPH】RBD mirror功能测试体验
oba没有马
02-11 4131
RBD mirror功能介绍        rbd mirror就是集群间数据块设备之间的备份。这个功能可以实现集群级别的备份，跨地理位置的数据备份。可以是主-备模式，也可以是主-主模式。    如下图所示    在这个 实现过程中，加入了新的守护进程rbd-mirror，负责集群到集群直接的数据同步。Jewel版本中，还只能实现一对一的备份。配置及测试过程    前提l  两个集群能相互通讯l ...
Ceph RBD实现数据持久化存储
最新发布
09-05
<think> 我们正在讨论Ceph RBD实现数据持久化存储的方法。根据用户的问题，他想要了解如何使用Ceph RBD来实现数据持久化存储。Ceph RBD（RADOS Block Device）是Ceph提供的块存储服务，允许用户创建块设备并挂载到服务器上，从而实现数据的持久化存储。 步骤概述： 1. 部署Ceph集群：这是使用RBD的前提，需要至少包含Monitor节点、OSD节点和MDS节点（如果使用CephFS的话，但RBD不需要MDS）。 2. 创建存储池（Pool）：在Ceph集群中创建一个存储池，用于存放RBD镜像。 3. 创建RBD镜像：在存储池中创建指定大小的块设备镜像。 4. 映射RBD镜像到客户端：将创建的块设备映射到客户端服务器，使其在客户端上显示为一个块设备（如/dev/rbd0）。 5. 格式化并挂载：在客户端上对块设备进行格式化（如mkfs）并挂载到目录，然后就可以像使用本地磁盘一样使用它。 详细步骤： 1. 部署Ceph集群（简要说明，因为这是一个复杂的过程，通常有详细文档） 通常使用cephadm或手动部署。这里假设已经部署好一个Ceph集群，并且集群状态健康（通过`ceph -s`查看）。 2. 创建存储池 使用ceph命令创建一个存储池，比如名为`rbd_pool`的池： ```bash ceph osd pool create rbd_pool 128 128 ``` 这里128是PG和PGP的数量，具体值需要根据集群规模调整。 然后，将该池初始化为用于RBD： ```bash rbd pool init rbd_pool ``` 3. 创建RBD镜像 在`rbd_pool`中创建一个名为`myimage`、大小为10GB的镜像： ```bash rbd create --size 10240 rbd_pool/myimage ``` 4. 映射RBD镜像到客户端 在客户端机器上（需要安装ceph-common包），首先需要配置ceph.conf文件和密钥文件（通常位于/etc/ceph目录下），以便客户端能够访问Ceph集群。 然后，映射镜像： ```bash rbd map rbd_pool/myimage ``` 执行成功后，客户端会多出一个块设备（可以通过`rbd showmapped`查看映射的设备，通常为/dev/rbd0）。 5. 格式化并挂载 格式化该块设备（例如使用ext4文件系统）： ```bash mkfs.ext4 /dev/rbd0 ``` 创建挂载点并挂载： ```bash mkdir /mnt/ceph_rbd mount /dev/rbd0 /mnt/ceph_rbd ``` 这样，就可以在/mnt/ceph_rbd目录下进行文件操作，所有数据都会持久化存储在Ceph集群中。 6. 自动挂载（可选） 为了实现开机自动挂载，可以将映射和挂载命令添加到系统的启动脚本中，或者配置udev规则。但更常见的做法是在挂载前先映射，然后使用/etc/fstab挂载。但是注意，RBD设备在重启后不会自动映射，所以需要先映射再挂载。 例如，可以在/etc/fstab中添加： ``` /dev/rbd0 /mnt/ceph_rbd ext4 defaults,noatime,_netdev 0 0 ``` 同时需要确保在系统启动时执行映射命令。可以创建一个服务或者在启动脚本中执行`rbd map`命令。 7. 持久化存储的保证 Ceph通过多副本或纠删码机制保证数据的持久性。在创建存储池时可以设置副本数（默认3副本）或纠删码策略。 8. 快照和克隆（可选） RBD支持快照和克隆功能，可以用于数据备份和快速复制。 注意事项： - 客户端需要安装ceph-common包。 - 客户端需要拥有访问Ceph集群的权限（通常需要将ceph.client.admin.keyring文件复制到客户端的/etc/ceph目录，或者创建一个专用的用户并赋予权限）。 - 在分布式环境中，多个客户端同时挂载同一个RBD镜像需要借助集群文件系统（如cephfs、gfs2等），否则会导致文件系统损坏。RBD本身支持独占式写入（exclusive-lock）和缓存特性，但多客户端同时读写同一块设备需要谨慎。 以上是使用Ceph RBD实现数据持久化存储的基本方法。 </think> ### 如何使用 Ceph RBD 实现数据持久化存储 Ceph RBD（RADOS Block Device）提供块级存储接口，通过以下步骤实现数据持久化存储： --- #### **1. 准备工作** - **部署 Ceph 集群** 需包含 Monitor、OSD（对象存储守护进程）和 MDS（元数据服务器）节点[^1]。 - **安装客户端工具** 在目标服务器安装 `ceph-common` 包： ```bash sudo apt-get install ceph-common # Ubuntu/Debian sudo yum install ceph-common # CentOS/RHEL ``` --- #### **2. 配置 RBD 存储池** ```bash # 创建存储池（例如 rbd_pool） ceph osd pool create rbd_pool 128 128 # 初始化池为 RBD 用途 rbd pool init rbd_pool # 创建 RBD 镜像（10GB 大小） rbd create rbd_pool/myvolume --size 10240 ``` --- #### **3. 客户端映射与挂载** ```bash # 将 RBD 镜像映射为本地块设备 rbd map rbd_pool/myvolume # 查看映射结果（通常为 /dev/rbd0） lsblk # 格式化设备 mkfs.ext4 /dev/rbd0 # 创建挂载点并挂载 mkdir /mnt/ceph_data mount /dev/rbd0 /mnt/ceph_data ``` --- #### **4. 实现开机自动挂载** ```bash # 生成自动映射配置 echo "rbd_pool/myvolume id=admin,keyring=/etc/ceph/ceph.client.admin.keyring" | \ sudo tee /etc/ceph/rbdmap # 添加 fstab 条目 echo "/dev/rbd0 /mnt/ceph_data ext4 defaults,_netdev 0 0" | sudo tee -a /etc/fstab ``` --- #### **5. 数据持久化验证** ```bash # 写入测试数据 echo "Ceph RBD Test" > /mnt/ceph_data/test.txt # 重启服务器后检查数据 reboot cat /mnt/ceph_data/test.txt # 应输出 "Ceph RBD Test" ``` --- #### **关键技术原理** 1. **数据分布** 数据通过 CRUSH 算法分散到集群 OSD 节点，实现负载均衡和高可用性[^2]。 2. **副本机制** 默认 3 副本存储（可配置），确保单点故障不影响数据完整性： $$ \text{写入操作} \rightarrow \text{Primary OSD} \xrightarrow{\text{同步}} \text{Replica OSDs} $$ 3. **故障恢复** OSD 故障时自动触发数据重平衡，无需人工干预[^3]。 --- #### **高级配置示例** ```bash # 启用 RBD 缓存（提升性能） rbd feature enable rbd_pool/myvolume exclusive-lock,caching # 创建快照（备份时间点状态） rbd snap create rbd_pool/myvolume@snap_v1 # 克隆卷（基于快照创建新卷） rbd clone rbd_pool/myvolume@snap_v1 rbd_pool/cloned_volume ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值