ceph
关注
分享
扫一扫
文章平均质量分 60
Terry_Tsang
It's nobody
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
ceph 数据落盘异常问题分析
故障现象：自研S3程序写入Ceph集群时出现ETIMEDOUT错误，表现为连接mon或OSD交互超时。排查过程：硬件层面检查发现所有服务器OSD硬盘均出现高util和await指标集群负载不高（1000-2000 OPS，200-400MB/s写入）硬盘测试显示单盘写入性能正常（200-300MB/s）Ceph OSD检查显示操作未被阻塞，但历史操作记录发现异常：典型操作从发起到完成耗时约11秒主要延迟出现在"commit_queued_for_journal_write"到"op_app原创 2025-10-11 18:08:54 · 892 阅读 · 0 评论 -
ceph 15 autoscaling pg 理解
ceph 15 版本pg auto scaling 功能的理解原创 2023-03-02 18:40:56 · 957 阅读 · 0 评论 -
ceph 故障 1 pool(s) have non-power-of-two pg_num
ceph 故障 1 pool(s) have non-power-of-two pg_num原创 2023-03-02 10:44:19 · 622 阅读 · 0 评论 -
ceph osd slow ops 检测
常见 osd ops 返回信息说明原创 2023-02-28 16:42:44 · 1492 阅读 · 0 评论 -
ceph 创建 rgw 服务 + centos6 编译 s3fs
cephrgw + s3fs mount 测试原创 2022-12-16 11:32:05 · 586 阅读 · 0 评论 -
ceph15 版 OSD恢复【备忘】
ceph osd 故障恢复备忘原创 2022-12-14 19:59:00 · 422 阅读 · 0 评论 -
ceph L版本小版本升级 [备忘]
ceph L 版本小版本升级 为 ceph L 版本升级至 N 版本做准备 L 版本升级至 N 版本步骤同理原创 2022-04-13 14:57:33 · 890 阅读 · 0 评论 -
ceph mon 故障登记
ceph mon 故障记录原创 2022-04-07 09:05:04 · 721 阅读 · 0 评论 -
ceph osd 修复备忘
目的修复故障osd现象检测方法磁盘检测可以通过下面命令获取当前 ceph 磁盘与 osd 对应信息命令行只显示本地磁盘及对应的 OSD 信息下面输出只列出本地两个 OSD 磁盘例子# ceph-volume lvm list ====== osd.6 ======= [data] /dev/ceph-1ebbbbb6-c0ce-4723-b986-32c6f43f1bdf/osd-data-fd52f4a5-b419-4d23-a32c-0963b55beb1f原创 2021-06-10 10:17:16 · 414 阅读 · 0 评论 -
ceph (luminous 版) osd 以 filestore 方式部署
目标创建 ceph filestore用户授权filestore 需要用到 client.bootstrap-osd 用户，因此需要先添加用户权限# ceph auth get-or-create client.bootstrap-osd mon 'allow profile bootstrap-osd'# ceph auth get-or-create client.bootstrap-mds mon 'allow profile bootstrap-mds'# ceph auth原创 2021-05-28 14:57:37 · 624 阅读 · 0 评论 -
ceph mgr 在线迁移 (扩容 缩容)
目的对 mgr 服务进行扩容缩容为了进行新机房迁移转呗前提参考 ceph mon 迁移步骤 已经完成了 ceph mon 迁移步骤新增 mgr删除旧机房 mgr 即可角色主机名IP旧 mgrns-storage-0201031.1.20.103旧 mgrns-storage-0201041.1.20.104旧 mgrns-storage-0201051.1.20.105新 mgrns-storage-0200501.1.20.原创 2021-04-15 10:45:02 · 551 阅读 · 0 评论 -
ceph mon 迁移
目的用于机房迁移步骤ceph mon 扩容 (新机房)ceph mon 缩容 (旧机房)ceph osd 物理迁移并更换 IP 重新加入 ceph 集群ceph mon 扩容通过表格，参考主机信息角色主机名IP 地址原monns-storage-0201031.1.20.103原monns-storage-0201041.1.20.104原monns-storage-0201051.1.20.105新monns-storage-0原创 2021-04-14 15:54:57 · 465 阅读 · 1 评论 -
对 kubenetes 扩容后端 rbd 磁盘容量
目的kubenetes 后端使用 ceph rbd 作为 pod 目录存储当 pod 存储空间不足，对 rbd 共享存储进行扩容扩容做到用户无感知参考kubernetes 直接调用 ceph 作为后端存储其他相关的 kubenetes 存储部分信息索引说明名称信息说明cephpoolkbecephcephuserterrykubenetesnamespacekubeceph简单步骤说明说明操作备注ceph 搭建原创 2020-12-22 11:52:38 · 390 阅读 · 0 评论 -
openstack 管理 四十四 - cinder qos 限制
前提centos7 + qemu-2.x ( centos 默认版本)openstack icehourse (其他版本同理)ceph 后端存储目的假如不限制 ceph io , 则一两个用户进行无限制数据 IO 压测使用， 则可以打爆整个 CEPH 集群避免资源抢夺， 充分合理使用 IO 资源QOS 限制方法cgrloupcgroups blkio控制器支持块设备...原创 2020-05-07 15:09:29 · 683 阅读 · 0 评论 -
ceph (luminous 版) data disk 故障测试
目的模拟 ceph (luminous 版) data disk 故障修复上述问题原创 2017-11-24 18:31:04 · 1869 阅读 · 0 评论 -
ceph rbd 文件读写测试
目的利用 rbd 文件读写, 对 ceph 集群 io 进行测试通过参数调整, 控制 IO 读写速度检测 SSD 在日志盘进行读写时候是否会达到瓶颈原创 2017-12-04 17:20:20 · 940 阅读 · 0 评论 -
ceph (luminous 版) pool 管理
对 ceph pool 进行管理ceph 下利用命令行对池管理显示池 参考下面命令可以查询当前 ceph 中 pool 信息[root@cephsvr-128040 ceph]# rados lspoolsvolumes[root@cephsvr-128040 ceph]# ceph osd lspools1 volumes,[root@cephsvr-128040 ceph]# ceph...原创 2017-11-21 16:47:27 · 8258 阅读 · 1 评论 -
手动部署 ceph mgr (luminous 版)
目标 使用 ceph luminous 版新特性 手动部署 mgr 完成 ceph 监控 新建用户 创建用户 openstack 用于 MGR 监控 [root@cephsvr-128040 ceph]# ceph auth get-or-create mgr.openstack mon 'allow *' osd 'allow *' mds...原创 2017-11-21 10:26:35 · 8714 阅读 · 1 评论 -
ceph - 索引
架构与部署openstack 与 ceph (架构) openstack 与 ceph (monitor初始化) openstack 与 ceph (osd 部署) openstack 管理三十八 - ceph 与 crushmap openstack 管理二十二 - cinder 连接多个存储 backend openstack 管理二十三 - nova comput............原创 2017-02-17 10:45:51 · 1909 阅读 · 1 评论 -
手动部署 ceph 环境说明 (luminous 版)
环境说明CentOS Linux release 7.2 (Core)主机名 客户连接 数据同步 mon addr data addr osd journal osd diskcephsvr-128040 xx.199.128.40 xxx.20.128.40 bond0 bond1 对 sdn 划分独立分区利用 sda ~ sdj 每个磁盘作为一个独立 ...原创 2017-11-17 21:33:49 · 2502 阅读 · 0 评论 -
手动部署 ceph mon (luminous 版)
环境参考 手动部署 ceph 环境说明 (luminous 版)模板创建脚本ceph.conf.template[global]fsid = $cephuuidmon initial members = $cephmonhostmon host = $cephmonipaddrpublic network = $cephmonnetworkcluster networ...原创 2017-11-20 10:03:47 · 2205 阅读 · 0 评论 -
手动部署 ceph osd (luminous 版)
环境参考 手动部署 ceph 环境说明 (luminous 版)目标 /dev/sdm 作为系统盘 /dev/sdn 作为 journal ssd disk 用于加速 journal 写入, 提高 osd 能力 /dev/sda ~ /dev/sdl 每个 SATA 盘 独立 raid0 (6TB) 用于 osd data disk 对 /dev/...原创 2017-11-20 10:35:19 · 3140 阅读 · 0 评论 -
ceph (luminous 版) 修改 mon IP 地址
说明当前 ceph 网络环境如下public network = xx.xxx.208.0/22 <外部网络, 与 client 沟通>cluster network = xxx.xx.128.0/21 <内部网络, 与 osd 之间沟通>目标切换网络环境public network = xxx.xx.128.0/21 ...原创 2018-05-14 17:13:25 · 2933 阅读 · 0 评论 -
golang -获取 ceph json 数据方法
目的1. 利用 golang 连接 ceph 存储 2. 输出 json 数据返回连接方法参考 git 官方地址获取 go-ceph 包方法go get github.com/ceph/go-ceph环境go 版本[root@ns-yun-020049 go]# go versiongo version go1.11.2 linux/amd64GOPATH 环境...原创 2019-01-04 15:09:14 · 1096 阅读 · 0 评论 -
golang - 利用 gjson 处理 json 数据方法
目的1. 利用 golang 调用 ceph 存储 2. 获取 ceph json 数据并进行处理 3. 利用 gjson 包对 json 数据进行处理 参考golang ceph 连接方法json 处理gjson特点语法简单功能多样化可以减少代码量缺点无法从代码中得知 json 结构增加了代码维护难度需要有完善的开发文档才行获取参考 g...原创 2019-01-04 15:12:50 · 2513 阅读 · 0 评论 -
golang - 利用 stuct 方法处理 json 数据方法
目的1. 利用 golang 调用 ceph 存储 2. 获取 ceph json 数据并进行处理 3. 利用 struct 结构对 json 数据进行处理 参考golang ceph 连接方法struct 处理优点结构清晰代码维护方便缺点需要预定义 struct 结构只能够对已知的 json 结构创建对应的 struct如果每次 json 输出...原创 2019-01-04 15:14:45 · 528 阅读 · 0 评论 -
kubernetes 部署 rook (ceph集群)
说明存储初始化部署 rook存储初始化常见存储磁盘结构全部 ssd 磁盘组成 (推荐)ceph 数据存放独立 ssd 硬盘， journal 数据存放至独立 ssd 硬盘 ( 不知道 rook 是否支持)ceph 数据及 jouranl 数据存放至相同 SSD 物理硬盘 ( rook 支持)ssd 硬盘与 sata 硬盘混搭 (推荐)ceph 数据存放至 sata...原创 2019-03-13 18:29:33 · 1760 阅读 · 0 评论 -
kubernetes 调用 rook 作后端存储
说明通过 yaml 创建 ceph pool通过 yaml 创建 pvc通过 yaml 调用 pvc 连接 pod创建 poolkubernets 提供的存储接口支持参考 kubetnetes 官方文档官方文档中提到了很多种不通的存储后端支持, 例如包括了下面几种常见的后端AWSElasticBlockStoreAzureDiskAzureFileCinderCeph...原创 2019-03-13 18:32:02 · 1064 阅读 · 0 评论 -
kubernetes 对 rook 进行扩容
说明对 ceph cluster 进行扩容操作ceph/rook 集群配置查询参考之前创建 rook 集群 yaml 中 kind 字段kind: CephCluster可以通过下面命令查询集群配置信息[root@ns-yun-020065 ceph]# kubectl -n rook-ceph get CephClusterNAME DATADIRHOSTPAT...原创 2019-03-13 18:37:56 · 1916 阅读 · 1 评论 -
kubernetes 直接调用 ceph 作为后端存储
目的ceph 作为独立的后端存储利用 kubernets 连接该 ceph 存储ceph 自行独立管理kubernets 只需要获取连接 ceph 的 mon 地址， 只需要具备连接到该 ceph 的用户权限即可优点ceph 维护， 管理比较灵活多个 kubernets 可以连接到相同的一个 ceph 集群中概念PVpersistentvolume（pv） 集群中由管...原创 2019-03-25 17:19:11 · 1137 阅读 · 0 评论 -
kubernetes 后端 ceph 存储 QOS 限制
说明···kubernetes 连接 ceph 作为后端存储对 PersistentVolumeClaim 进行 qos 限制···参考参考 ceph 官方文档rbd qos iops limitDescription: The desired limit of IO operations per second.Type: Unsigned IntegerRequired: N...原创 2019-03-28 15:14:56 · 1727 阅读 · 0 评论 -
ceph (luminous 版) crushmap 与 pool结合用于物理划分 IO 使用域
目的利用 crushmap ， 把不同的 osd 存放到不同的分组中不同的 ceph pool 独立使用到不同的 crushmap 分组 （即使用不同的 osd 磁盘）从物理上隔离了不同的 pool 数据读写 IOceph 结构参考 hostAhostBhostC备注 osd.0osd.4osd.8把 osd0 ~ osd.11 划分到 root=default 根中只...原创 2019-08-29 16:42:12 · 495 阅读 · 0 评论 -
kubevirt 对 VMI 调用 CEPH 作为云盘方法
目的在 kubernetes 中调用 VMIVMI 可以运行 centos, windows 镜像本地数据盘的使用方法kubernetes 连接 ceph , 调用 RBD 作为 VMI 数据盘的使用方法网络说明如果外部网络可以直接访问到 VMI 建议使用 OVS + netplugin 平面网络模型如果只用 VNC 连接到 VMI， 那么可以使用 flannel 网络使用私有...原创 2019-09-12 17:26:11 · 1206 阅读 · 2 评论 -
ceph - crushmap 扩容记录
分配对 crushmap 扩容避免 ceph recovery 过程中对业务造成太大影响原创 2017-02-20 14:44:49 · 1881 阅读 · 0 评论 -
openstack 与 ceph (monitor初始化)
Monitor 节点初始化目的 利用三个节点部署 ceph mon 节点步骤1. 操作系统初始化当前环境中, ceph 存储集群统一部署 centos 7.1 操作系统, 并在 /etc/hosts 中登记集群中的服务器主机名, 并完成时间同步主机名验证[root@xx-xxx-xxxx-xxxxxxx15-128055 ~]# host...原创 2015-07-24 09:55:03 · 2778 阅读 · 0 评论 -
openstack 与 ceph (架构)
参考架构硬件配置ceph 由 7 台 华为 RH2288A 组成, 硬件信息: 硬件 型号 数量 统计 cpu Intel(R) Xeon(R) CPU E5-2630 v2 @ 2.60GHz 2 24核 内存 16GB 4条 64GB 硬盘 4.0 TB 12 48TB 网卡 千...原创 2015-07-24 09:34:08 · 3512 阅读 · 0 评论 -
openstack 与 ceph (osd 部署)
OSD 部署 (ceph-0.8.17)目标 ceph 节点中, 每个磁盘(10块) 创建独立 Raid0 每个磁盘创建独立对应 OSD 创建CEPH 集群 CEPH数据备份副本数量为 3 知识扫盲osd osd 用于存储数据 osd 可以理解为数据存储的小房间 每个 osd 对应一个独立的磁盘 ceph 集群是有多个...原创 2015-07-24 10:41:26 · 4130 阅读 · 0 评论 -
ceph osd 更换硬盘记录
1 确认故障磁盘dmesg[6061566.878131] sd 0:2:2:0: [sdc][6061566.878141] sd 0:2:2:0: [sdc][6061566.878147] sd 0:2:2:0: [sdc][6061566.878152] sd 0:2:2:0: [sdc] CDB:[6061566.878162] end_request: cri...原创 2015-11-08 11:24:43 · 11153 阅读 · 0 评论 -
ceph ( requests are blocked ) 异常解决方法
最近在执行 ceph 扩容 注: 如果有条件, 建议不要扩容, 直接创建新 POOL, 这样会避免很多异常与影响扩容每天大约 2T 空间, 扩容过程中, pg 会对数据执行自动迁移, 但在迁移过程中会遇到 requests are blocked 异常错误原创 2016-01-20 10:40:06 · 13940 阅读 · 0 评论 -
ceph 故障解决备忘
时间问题导致报警解决方法访问 block 导致报警解决方法 clock skew detected on mon.hh-yun-ceph-cinder025-128075 14 requests are blocked > 32 sec原创 2015-12-22 10:47:34 · 10078 阅读 · 2 评论