Ceph OSD内存分析

最新推荐文章于 2024-09-13 09:45:54 发布
原创 最新推荐文章于 2024-09-13 09:45:54 发布 · 778 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#云计算

在这里插入图片描述

ceph性能调优
weixin_40548182的博客
11-10 2176
软件层面 集群配置文件 配置文件段 [global] 这个段的配置会影响集群所有的守护进程。 [MON] 这个段的配置只会作用于ceph集群内的mon守护进程，这个段内设置的参数会覆盖掉在[global]段中设置的相同参数。 [OSD] 这个段的配置只会作用于ceph集群内的osd守护进程，这个段内设置的参数会覆盖掉在[global]段中设置的相同参数。 [MDS] 这个段的配置只会作用于ceph集群内的mds守护进程，这个段内设置的参数会覆盖掉在[global]段中设置的相同参数。 [client] 这个
Ceph入门到精通-使用 Ceph 编排器管理 OSD
隔壁老瓦的专栏
05-19 1714
卸下 OSD 后，如果部署 OSD 的驱动器再次可用，如果这些驱动器与现有驱动器组规范匹配，则可能会自动尝试在这些驱动器上部署更多 OSD。硬盘容量每年增长约 40%，因此较新的 OSD 节点可能比存储集群中的旧节点具有更大的硬盘驱动器，也就是说，它们可能具有更大的权重。定义存储池时，归置组的数量决定了数据在所有可用 OSD 中的粒度等级。Cephadm 以分数开头，默认为系统中的总 RAM，减去非自动调整守护程序（如非 OSD）和 OSD 为 false 消耗的任何内存，然后除以剩余的 OSD。
ceph osd内存溢出，osd进程限制隔离
小Eason哥
11-18 4773
生产集群出现osd节点内存溢出的现象，现象为：现有集群其他节点内存使用率都为90%左右的情况下，重启1台ceph-osd.target，会导致集群在重平衡时，导致其他osd节点内存上升，系统宕机，从而导致整个集群不可用； 操作方法： 1.系统层面cgroup限制内存，脚本如下，60G为osd进程使用内存，系统内存预留32G： $cat cgroup.sh #!/bin/bash if [ ! ...
存储产品内存问题定位分析全过程（ceph）
liuye_linux的博客
12-03 241
1、存储架构：有个视频：https://www.bilibili.com/video/BV17p4y1a7Em?from=search&seid=14270497209138321592&spm_id_from=333.337.0.0 2、工具：　　 　　GCC安装升级：手动安装升级GCC---史上最全2021 　　ASAN编译：ASAN详解--AddressSanitizer算法及源码解析（转） 　　　　　　 ASAN在CMakeLists.txt中的使用方法 　　　　...
ceph内存剖析工具---valgrind
qq_23929673的博客
07-25 644
前言： 1、实际使用该工具时，发现网上资料并不完整，本文只是对该工具的知识资源做了一个整合，相关提到的知识不再赘述，下文只是做一些补充说明 2、阅读下面文档前，建议先阅读门雷工程师之前调研的文档，先对该工具有一个整体了解（见附件4） 一、环境搭建 1、需要安装的软件 a、valgrind 作用：主要工具，用来执行valgrind相关命令 ...
分布式存储系统-Ceph简单分析
qq_33115589的博客
10-08 699
1.1Ceph分布式存储系统分析 Ceph是一个统一的分布式存储系统，可同时提供块、文件和对象３种接口的存储服务。与传统的分布式存储系统不同，它采用了无中心节点的元数据管理方式，因此具有良好的扩展性和线性增长的性能。经过十余年的发展，Ceph已被广泛地应用于云计算和大数据存储系统。 1.1 Ceph分布式存储系统关键技术分析 1.1.1 CRUSH算法分析 存储系统的数据分布算法要解决数据如何分布到各个节点的问题，随着大规模分布式存储系统（PB级的数据和成百上千台存储设备）的出现，数据分布算法...
ceph 13.2.10 在线修改参数 osd 心跳时间设置 内存限制
mixboot
04-15 1534
ceph 在线修改参数修改OSD心跳OSD设置维护模式osd_heartbeat_intervalosd_heartbeat_gracemon_osd_min_down_reporters 修改OSD心跳 OSD 抖动严重 ceph -v ceph version 13.2.10 OSD设置维护模式 ceph osd set noout osd_heartbeat_interval 同一个PG的OSD 才会相互心跳检测 默认值 ceph daemon mon.k213 config show | g
ceph osd down 分析处理
Pro_jhf的博客
09-09 1325
当 Ceph OSD 出现down状态时，可能由多种原因引起，包括硬件故障、网络问题、配置错误等。通过系统化的排查流程，结合日志分析和硬件检查，可以准确定位问题并采取合适的处理措施。处理完问题后，建议通过 Ceph 的监控工具持续监控 OSD 状态，确保集群的稳定性和高可用性。
【ceph】ceph osd blacklist cep黑名单|MDS问题分析
小鱼菜鸟的博客
07-22 1329
目录 blacklist是什么 blacklist相关操作 Ceph MDS问题分析 CephFS client evict子命令使用 概述 命令格式 1. 查看所有client/session 2. evict指定client 3. 查看ceph osd的blacklist 4. 尝试恢复evict client 5. evi...
【ceph】ceph osd启动及peering过程中osdmap相关加载和更新流程
小鱼菜鸟的博客
07-22 824
OSD启动过程中osdmap加载流程 OSD启动入口是ceph_osd.cc的main函数，他会调用osd->init()进行osd启动前的初始化工作。 int OSD::init() { ......//检查osd目录相关持久化数据，以及文件系统属性等，加载FileStore驱动。 int r = store->mount()...
ceph osdmap crush 分析
热门推荐
周健华的专栏
06-02 1万+
1 maps 更新1.1 更新规则 Because cluster map changes may be frequent, as in a very large system where OSDs failures and recoveries are the norm, updates are distributed as incremental maps(增量更新): small mes
perf检查ceph-osd CPU使用率高问题
Gavin Blog
09-13 874
今天早晨 QA 发现 LAB里的一套集群环境里，124~128集群里面，128节点ceph-osd cpu load重，CPU使用率是 200%~400% 之间。我用strace 粗略地看了下，没看出什么端倪。只能上perf了。
ceph学习之路----释放ceph占用内存
yysalad的专栏
05-03 2275
ceph tell osd.* heap release
Ceph 存储（最详细！）
A1100886的博客
07-14 1万+
存储机制会把数据分散存储到多个节点上，具有高扩展性、高性能、高可用性等优点。Ceph使用C++语言开发，是一个开放、自我修复和自我管理的开源分布式存储系统。具有高扩展性、高性能、高可靠性的优点。Ceph目前已得到众多云计算厂商的支持并被广泛应用。RedHat及OpenStack，Kubernetes都可与Ceph整合以支持虚拟机镜像的后端存储。粗略估计，我国70%—80%的云平台都将Ceph作为底层的存储平台，由此可见Ceph俨然成为了开源云平台的标配。
查询Ceph的OSD占用内存的脚本
weixin_34025051的博客
12-13 596
# -*- coding: UTF-8 -*-import osimport sysimport jsonimport psutilimport commandsfrom prettytable import PrettyTabledef main(): if len(sys.argv) == 1: printosdmemtable(...
Ceph篇之OSD容量占用组成
小橙子的笔记屋
08-12 611
OSD占用组成
ceph集群搭建
s1440350254的博客
02-07 2234
ceph集群搭建 文章目录ceph集群搭建cephceph的构成搭建ceph集群实现块存储客户端使用块设备 ceph ceph被称作面向未来的存储 中文手册： https://access.redhat.com/documentation/zh-cn/red_hat_ceph_storage/5/html/architecture_guide/index http://docs.ceph.org.cn/ ceph可以实现的存储方式： 块存储：提供像普通硬盘一样的存储，为使用者提供“硬盘”
ceph osd 占用太多的内存
chenhongloves的博客
06-09 2349
OSD and MON memory consumption Ceph OSD Pod memory consumption very high Ceph Cluster CRD Ceph HardWare Recommendations
pprof搭配ceph tell命令分析ceph内存
天行健，地势坤
03-30 2050
文章目录安装使用使用`ceph tell`产生堆栈信息文使用`pprof`工具分析内存及`ceph tell`释放内存火焰图`FlameGraph`可视化进程堆栈信息 pprof是一个google开发的支持可视化、且可分析profile文件而达到对内存的分析。并且能够输出文本和图像来支持分析过程,pprof源码 安装 可以直接通过gperftools工具集来安装pprop工具 配置海康yum源...
ceph_osd_up == 0
最新发布
02-26
<think>好的，用户现在问的是关于“ceph_osd_up == 0”的问题。首先，我需要确认这个问题的背景。Ceph是一个分布式存储系统，OSD（对象存储守护进程）是其核心组件，负责存储数据和处理客户端请求。当用户提到ceph_osd_up等于0时，意味着某个或某些OSD处于下线状态，无法正常工作。 接下来，我需要考虑用户可能的身份和使用场景。用户可能是系统管理员或运维人员，负责维护Ceph集群。他们可能在监控集群状态时发现了这个问题，需要快速了解原因和解决方法。用户的需求不仅仅是知道这个指标的含义，更想知道如何排查和解决OSD下线的问题。 然后，分析用户可能没有直接提到的深层需求。例如，用户可能需要步骤化的指导，包括检查OSD状态、查看日志、硬件故障排查等。他们可能还希望了解如何预防此类问题再次发生，比如监控建议或配置优化。 现在需要整理相关的知识点。首先，解释ceph_osd_up的具体含义，说明其值为0的影响。接着，列出可能的原因，如服务未运行、网络问题、硬件故障、认证问题、磁盘故障、资源不足等。然后，给出详细的排查步骤，包括检查OSD状态、服务运行情况、日志分析、网络连通性测试、硬件检查等。最后，提供解决方案，如启动OSD服务、处理硬件问题、调整资源等，并给出预防措施，如监控配置和定期维护。 同时，要注意使用用户提供的命令示例，确保命令准确，比如ceph osd tree、systemctl status ceph-osd@<id>等，这些命令能帮助用户实际执行故障排查。此外，可能需要提醒用户某些操作的风险，例如重启服务可能影响正在运行的业务，需谨慎处理。 最后，确认回答结构清晰，分点明确，便于用户按照步骤操作。同时，语言要简洁明了，避免技术术语过多，必要时给出解释。例如，解释PG（归置组）和Crush Map的作用，帮助用户理解相关概念。</think>你提到的 **`ceph_osd_up == 0`** 是 Ceph 分布式存储集群中的一个监控指标，表示某个 OSD（Object Storage Daemon，对象存储守护进程）当前处于 **“下线”** 状态（即无法正常工作）。以下是详细解释和应对方法： --- ### **1. 术语解释** - **OSD**：Ceph 集群的核心组件，负责存储数据副本、处理客户端读写请求和数据恢复。 - **`ceph_osd_up`**：监控指标，表示 OSD 是否在线（`1` 为在线，`0` 为离线）。 - **OSD 下线的影响**： - **数据访问延迟或失败**：客户端可能无法读写该 OSD 上的数据。 - **数据可靠性风险**：若多个 OSD 同时下线，可能导致数据丢失（取决于副本策略）。 --- ### **2. 常见原因** #### **(1) OSD 服务未运行** - 进程崩溃或被意外终止。 - 系统资源不足（如内存耗尽）触发 OSD 进程退出。 #### **(2) 硬件或网络故障** - 物理服务器宕机、磁盘故障、电源问题。 - 网络中断导致 OSD 与集群其他节点通信失败。 #### **(3) 认证或权限问题** - Ceph 集群认证失败（如密钥环损坏或权限不足）。 - 防火墙或 SELinux 阻止了 OSD 端口通信（默认端口 6800-7300）。 #### **(4) 存储设备异常** - 磁盘满（`df -h` 检查）、文件系统损坏（`dmesg | grep error`）。 - 磁盘响应超时（如高延迟或 IO 阻塞）。 --- ### **3. 排查步骤** #### **(1) 确认 OSD 状态** ```bash # 查看 OSD 整体状态 ceph osd tree ceph osd stat # 检查具体 OSD 的详细信息（替换 <osd-id>） ceph osd find <osd-id> ceph daemon osd.<osd-id> status ``` #### **(2) 检查 OSD 服务状态** ```bash # 查看 OSD 进程是否运行（替换 <osd-id>） systemctl status ceph-osd@<osd-id> # 查看日志（替换 <osd-id>） journalctl -u ceph-osd@<osd-id> -n 100 ``` #### **(3) 检查网络和硬件** ```bash # 确认 OSD 所在主机的网络连通性 ping <monitor-node-ip> nc -zv <osd-node-ip> 6800 # 测试端口是否开放 # 检查磁盘状态（替换 /dev/sdX） smartctl -a /dev/sdX dmesg | grep -i error ``` #### **(4) 查看集群事件** ```bash ceph -w # 实时监控集群事件 ceph health detail # 查看健康详情 ``` --- ### **4. 解决方案** #### **(1) 重启 OSD 服务** ```bash systemctl restart ceph-osd@<osd-id> ``` #### **(2) 修复硬件或网络问题** - 更换故障磁盘或修复网络配置。 - 调整防火墙规则或 SELinux 策略。 #### **(3) 处理存储异常** - 清理磁盘空间或扩容。 - 修复文件系统（需谨慎操作，可能需卸载磁盘）： ```bash umount /var/lib/ceph/osd/ceph-<osd-id> fsck -y /dev/sdX ``` #### **(4) 手动标记 OSD 为在线** 若 OSD 实际已恢复但状态未更新： ```bash ceph osd in <osd-id> ``` #### **(5) 临时屏蔽故障 OSD** 若需排除问题 OSD，避免影响集群： ```bash ceph osd out <osd-id> # 从集群中剔除 ceph osd down <osd-id> # 标记为下线 ``` --- ### **5. 预防措施** - **监控告警**：配置 Prometheus + Alertmanager 监控 `ceph_osd_up` 指标。 - **定期维护**：检查磁盘健康、更新 Ceph 版本、优化 CRUSH Map。 - **资源预留**：确保 OSD 主机有足够的 CPU、内存和网络带宽。 --- 如果需要进一步分析，请提供以下信息： - `ceph osd tree` 的输出 - 相关 OSD 的日志片段（`/var/log/ceph/ceph-osd.<id>.log`） - 集群的 PG 状态（`ceph pg stat`）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值