shell脚本---实现ceph数据的备份、恢复

s3cmd新建桶,报错403如何解决!!! 一、服务器的key不匹配 二、有延迟 阅读详情

脚本使用说明:

ceph迁移
导出
1、下载s3cmd:yum install s3cmd -y
2、修改配置文件,创建 /root/.s3cfg文件到ceph主节点的root目录下,修改IP:Port以及账户信息
3、执行ceph_export.sh 脚本
导入
1、迁移ceph_data.tar.gz到目标机器
2、下载s3cmd:yum install s3cmd -y
3、修改配置文件,创建 /root/.s3cfg文件到ceph主节点的root目录下,修改IP:Port以及账户信息
注:确保配置文件账户信息与项目所用的ceph的配置一致
内容参考 如下:
vim /root/.s3cfg
[default]
access_key = 4BGJ6G1IYW09KO2AKDUE
secret_key = 1DFvpB84BvdatzBrtw4bfAyZpA5DZOahxUoXHD7a
host_base = 127.0.0.1:8899
host_bucket = 127.0.0.1:8899/%(bucket)
use_https = False
4、通过S3Browser客户端创建相应的桶,确保用户配置与Apollo的配置一致
5、执行ceph_import.sh jio本

脚本内容:

#!/bin/bash
function download(){
    array=`s3cmd ls  | cut -d "/" -f 3`

    cd ${backup_path}/${date}
    for element in ${array[@]}
        do
          mkdir $element
          s3cmd get s3://${element}/"*" ${backup_path}/${date}/${element}/
          echo "bucket ${element} 下载完成"
        done

    cd ${backup_path}
    tar -zcf ceph_data_${date}.tar.gz ${date}

    sleep 5
}

function check(){

        if [ `rpm -qa|grep s3cmd >/dev/null && echo $?` != 0 ];then
                yum install s3cmd
                echo "s3cmd 安装完成..."
        else
                echo "s3cmd 已经正常安装!!"
        fi
}

#备份路径,需要根据具体修改
backup_path="/data1/ceph_data/ceph_bak/data"
##备份日志路径,需要根据具体修改
backup_log_path="/data1/ceph_data/ceph_bak/logs"
date=$(date +%Y-%m-%d_%H-%M-%S)
backup_log="${backup_log_path}/ceph_export_${date}.log"
if [ ! -d ${backup_path}/${date} ];then
  mkdir -p {$backup_path/${date},$backup_log_path}
else
  echo "========${date}:文件夹已经存在=======" >> ${backup_log}
fi

echo "开始检查s3cmd"  >> ${backup_log}
check
echo "开始下载ceph数据"  >> ${backup_log}
download

附上恢复脚本:

#!/bin/bash
#使用前需要编写好需要恢复的桶名到list文件中,bucket_list.txt
function import(){
    while read line
        do s3cmd mb s3://${line}
#根据桶名的列表bucket_list.txt进行创建桶
    done < bucket_list.txt
    array=`s3cmd ls  | cut -d "/" -f 3`
    cd ${1}
    for element in ${array[@]}
        do
          s3cmd put ${element}/*  s3://${element}/
          echo "bucket ${element} 导入完成"
        done

    sleep 5
}

function check(){

        if [ `rpm -qa|grep s3cmd >/dev/null && echo $?` != 0 ];then
                yum install s3cmd
                echo "s3cmd 安装完成..."
        else
                echo "s3cmd 已经正常安装!!"
        fi
}

read -p "确定s3cmd是否正确安装?(y/n):" judge
if [ $judge = 'y' -o $judge = 'Y' ];then
        read -p "请输入ceph数据存储的位置 : " floder
        echo "开始导入..."

        import ${floder}

else
        echo "检查安装"
        check
        read -p "请输入ceph数据存储的位置 : " floder
        echo "开始导入..."
        import ${floder}
fi

其中bucket_list.txt内容举例如下:

[root@ceph-te-3p193 opt]# cat bucket_list.txt 
casejoin
dailyreport
dw-finger-image
dw-portrait-image
dw-url
eventwarning
infopublish
infopublishtest
monitor
photo
taskmanager
Ceph分布式存储系统:架构解析、部署实践与性能优化指南 分布式存储系统是现代云计算和大数据基础设施的核心组件,通过将数据分散存储在多个节点上实现高可用性和可扩展性。Ceph作为开源分布式存储解决方案,采用CRUSH算法实现数据自动分布和负载均衡,支持对象存储、块存储和文件系统三种存储类型。在云基础设施和容器存储场景中,Ceph通过软件定义存储技术为OpenStack、Kubernetes等平台提供可靠的后端存储服务。本文基于Ceph的核心架构,详细介绍了从环境准备、集群部署到性能调优的全流程实践,重点涵盖cephadm容器化部署、OSD性能优化、监控告警配置等关 阅读详情

相关推荐

关于云计算的基础知识整理

云计算OS结构: 由控制节点、网络节点、计算节点和存储节点组成。除了四个节点分别安装外,安装模式可以采取all-in-one,或者controller节点和网络节点一起,compute节点和存储节点一起。   QEMU服务: 主要用于nova底层的开源虚拟化方案,集成了KVM的CPU半虚拟化优点,封装成libvirt,通过libvirt提供的shell命令操作QEMU。Libvirt可以通

wn_hello的小宇宙 5653

SequoiaDB巨杉数据库S3实例的连接

本文档主要介绍如何通过 s3cmd 进行连接。 配置和连接 配置 Access Key, Secret Key, S3 Endpoint, HTTPS protocol 和 DNS-style $ ./s3cmd --configure Enter new values or accept defaults in brackets with Enter. Refer to user manual for detailed description of all options. Access key

weixin_38515299的博客 452

Proxmox VE社区脚本:自动化运维与监控集成的实战指南

在虚拟化与容器平台管理中,自动化运维是提升效率、确保一致性的核心技术。其原理在于通过脚本和API调用,将重复性手动操作转化为可编程、可复用的任务流程,从而降低人为错误风险。这一技术价值在Proxmox VE(PVE)这类企业级平台中尤为突出,能够显著简化虚拟机、容器、存储和网络资源的生命周期管理。社区维护的脚本集合,如GitHub上的“community-scripts/ProxmoxVE”,正是这一理念的实践典范,它提供了从基础资源操作到高级监控集成的丰富工具。例如,通过调用PVE API和命令行工具,管

weixin_42626599的博客 600

s3cmd常用命令

记录:319 场景:在CentOS 7.9操作系统上,使用s3cmd操作Ceph分布式存储系统。操作包括上传、下载、检索和管理数据等。

zhangbeizhen18的博客 1万+

Duplicacy CLI云备份原理:块级去重与S3兼容存储实践

云备份本质是保障数据长期可用性与可验证性的系统工程,其核心技术逻辑在于内容识别、增量传输与存储解耦。块级去重(chunk-level deduplication)通过内容定义分块(CDC)实现毫秒级差异识别,显著降低带宽与存储开销;S3兼容对象存储凭借RESTful API、高持久性与权限精细化能力,成为CLI原生备份工具的理想落地方案。这类工具不依赖GUI或中心服务,而是以可编程、可审计、可集成的命令行形态,支撑CI/CD自动化、Prometheus监控与跨云迁移等工程场景。Duplicacy正是这一范式

weixin_30291791的博客 419

三台迷你PC构建万兆Proxmox VE集群:家庭实验室的高可用虚拟化实战

服务器虚拟化技术通过将物理服务器资源抽象、池化,为多个虚拟机提供独立的运行环境,其核心原理是基于Hypervisor(如KVM)或容器(如LXC)实现硬件资源的隔离与共享。这项技术的核心价值在于提升硬件利用率、简化运维管理,并实现业务的高可用与弹性伸缩,广泛应用于企业数据中心、云计算平台和开发测试环境。随着硬件性能的提升和成本的下降,基于消费级迷你PC搭建小型高性能集群成为可能,这为构建低成本、低功耗的私有云或家庭实验室提供了新思路。本文聚焦于利用Proxmox VE这一集成KVM与LXC的开源虚拟化管理平

weixin_30706691的博客 407

CEPH-RBD备份/恢复/删除备份

CEPH-RBD备份/恢复/删除备份

weixin_44856211的博客 2365

【Bash Shell】实用脚本1000句汇总

监控与警报:集中监控系统,设置性能和安全警报。安全合规:定期扫描和加固系统,自动化合规检查。备份与灾难恢复:自动化备份,定期测试恢复流程。自动化运维:使用配置管理工具,减少手动干预。日志管理:集中日志分析,快速故障排除。这些脚本和方向可以帮助构建稳定、安全且可扩展的企业IT环境。实际使用时,请根据具体需求调整脚本参数,并在测试环境中验证后再部署到生产环境。

老韩的Linux云计算架构师进阶之路 139

如何在本地搭建S3环境

创建文件夹: # touch temp/123.txt。创建桶123: #s3cmd。上传文件续传: #s3cmd。往桶里上传文件: #s3cmd。从桶里下载文件: #s3cmd。”并跳过认证配置,保存配置文件。下载文件续传: #s3cmd。删除桶里文件: #s3cmd。命令生成默认配置文件。

weixin_44127587的博客 3260

s3-backup-script:S3备份脚本,用于将重要的文件文件夹和数据库从您的服务器复制到AWS S3

介绍 这是一个简单的shell脚本,它将在OS级别上压缩文件夹/文件,并压缩mysql数据库的转储,并使用s3cmd将其上传到Amazon s3。 s3cmd-安装 将s3cmd的zip下载到/ opt,然后安装。 wget -O- -q http://s3tools.org/repo/deb-all/stable/s3tools.key | sudo apt-key add - ; sudo wget http://s3tools.org/repo/deb-all/stable/s3tools.list -O /etc/apt/sources.list.d/s3tools.list ; sudo apt-get update && sudo apt-get install s3cmd python-dateutil unzip -y ; sudo useradd s3backups -

28-基于STM32单片机的便携式健康监测系统设计与实现(程序+原理图+元件清单)

本文详细介绍了基于STM32单片机的便携式健康监测系统设计与实现,该系统集成MAX30102光电传感器和MSP20压力传感器,实时监测心率、血氧和血压等关键生理指标。通过STM32F103C8T6主控芯片和HC-05蓝牙模块,实现数据采集、处理及无线传输,具有便携性高、操作简便等特点,适用于家庭健康监护和户外运动场景。

weixin_29191669的博客 420

Mysql 备份shell并传到ceph上

转载从http://88250.b3log.org/backup-mysql-shell##!/bin/bash# 要备份的数据库名,多个数据库用空格分开 databases=(db1 db2 db3) # 备份文件要保存的目录 basepath='/root/backup/mysql/'if [ ! -d "$basepath" ]; then mkdir -p "$basepath" fi#

phantom in ORACLE 539

2025软考信息安全工程师真题

2025信息安全工程师软考真题

qq_40424393的博客 1708

裸机备份原理与企业级实战:从物理层恢复整机系统

裸机备份是一种面向物理基础设施的数据保护技术,其核心在于对磁盘扇区级原始数据、引导结构(MBR/GPT/UEFI NVRAM)、固件交互状态及硬件抽象层的完整捕获。它突破传统文件备份和系统镜像的局限,实现不依赖运行中操作系统的‘硬件无关恢复’。该技术通过块级增量、去重压缩与启动链路重建,显著提升RTO/RPO指标,支撑金融、医疗、电商等关键业务的灾备合规与高可用要求。本文深入解析裸机备份的底层机制,并基于Veeam、Clonezilla等主流工具展开生产环境部署、跨平台恢复与高频故障排障的全流程实践。

weixin_34199335的博客 369

计算机视觉:暗通道去雾算法的原理及python实现

在绝大多数非天空的局部区域中,某些像素总会至少有一个颜色通道的值很低。对于一幅图像J(x),其暗通道的数学定义表示如下:其中,Ω(x)表示以x为中心的局部区域,上标c表示RGB三个通道。该公式的意义用代码表达也很简单,首先求出每个像素RGB分量中的最小值,存入一副和原始图像大小相同的灰度图中,然后再对这幅灰度图进行最小值滤波,滤波的半径由窗口大小决定。

weixin_51998427的博客 1万+

【架构师面试-缓存与搜索-1】-缓存与缓存置换策略源码实现

1:什么是缓存 缓存:加速数据访问的存储,降低延迟(latency),提升吞吐量(Throughput)的利器。 1:缓存演进历史 1. 查库 2. ConcurrentHashMap 3. LRU 4. Guava Cache 5. 分布式缓存(redis,MemCache) 6. 多级缓存 2:在什么地方加缓存 缓存对于每个开发者来说是相当熟悉了,为了提高程序的性能我们会去加缓存,但是在什么地方加缓存,如何加缓存呢? 举个栗子:假设一个网站,需要提高性能,缓存可以放在浏览器,可以放

chongfa2008的博客 6440

【ceph】ceph集群删除pool报错: “EPERM: pool deletion is disabled“

【ceph】ceph集群删除pool报错: "EPERM: pool deletion is disabled"

zerotoall的博客 1000

手把手教你用Silvaco Atlas复现GaN蓝光LED仿真:从网格划分到光谱分析全流程避坑

本文详细介绍了如何使用Silvaco Atlas进行GaN蓝光LED仿真,从网格划分到光谱分析的全流程避坑指南。重点讲解了网格划分技巧、材料参数设置、极化效应处理以及结果分析方法,帮助用户快速掌握半导体器件仿真技术,提升研发效率。

weixin_42552716的博客 225

【ceph分布式存储】集群搭建,原生数据存取演示

什么是Ceph?搭建Ceph集群有哪些步骤?搭建Ceph集群容易出现哪些问题?该如何解决?Ceph集群如何扩容与缩容?Ceph集群核心组件有哪些?osd down如何解决?

m0_71837291的博客 282

完整复现YOLOv8:包括训练、测试、评估、预测阶段【本文源码已开源,地址在文章末尾】

(这里主要是在colab.research.google.com实现的,本地的配置也是类似的方法)YOLOv8是一种用于目标检测的深度学习算法。主要参考:https://github.com/ultralytics/ultralytics/blob/main/README.zh-CN.md。yolov8的权重:https://github.com/ultralytics/assets/releases。yolov8的文档:https://v8docs.ultralytics.com/

源代码杀手的博客 1万+

【YOLO11[基础]】分类任务的热力图可视化实践 | 论文必备 | 分类任务 | 即插即用 | 可选GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM, HiR

【YOLO11[基础]】分类任务的热力图可视化实践 | 论文必备 | 分类任务 | 即插即用 | 可选GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM, HiResCAM, LayerCAM, RandomCAM, EigenGradCAM等

静谧、淡雅 2389

【运维面试100问】(九)了解Raid嘛?

【运维面试100问】了解Raid嘛? 1. RAID 0:条带化(Striping)模式,将数据均匀分布在多个硬盘上,提供了更高的性能和容量,但没有冗余备份功能。RAID 0适用于需要高速数据传输和临时存储的场景,但对数据安全性要求不高。提高读写效率,至少需要两块磁盘 2. RAID 1:镜像(Mirroring)模式,将数据同时写入两个硬盘,提供了冗余备份和容错能力。RAID 1可以在一个硬盘故障时继续提供数据访问,但容量利用率较低,只有总容量中的一半可用。实现磁盘设备的冗余备份,至少需要两块磁盘

zerotoall的博客 671

yolov5 FPGA实现及verilog代码仿真

本文介绍了一种基于FPGA的卷积神经网络加速器设计,采用混合架构实现网络功能。该系统将训练和图像预处理等复杂计算保留在PC端执行,仅将主干网络部署在FPGA上。由于片上资源限制,建议通过外接DDR存储扩展容量。文章提供了完整的Verilog HDL源码,包括卷积单元(convUnit)、卷积层(convLayerSingle)和处理单元(processingElement)等核心模块,均已通过仿真验证。该设计采用流水线结构,使用浮点运算单元实现卷积计算,支持32x32图像输入和5x5卷积核处理。系统架构图中

QQ_778132974的博客 577

运维工程师学习路线

这里写目录标题初级1、Linux基础2、系统管理3、网络基础4、Shell脚本编程基础中级1、网络服务2、Web服务3、数据库4、安全5、监控系统6、Shell脚本编程进阶7、Python开发基础高级1、Web静态缓存2、集群3、虚拟化4、自动化5、Python开发进阶6、日志分析系统7、性能优化 初级 1、Linux基础 刚开始阶段需要熟悉Linux/Windows操作系统安装,目录结构、启动流程等。 2、系统管理 主要学习Linux系统,生产环境中基本都在字符界面完成工作,所以要掌握常用的几十个基本管理

xiaoxiaoxiexies的博客 1万+

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

现对约 100 台 CentOS 7.9 系统的 LAMP 和 LNMP 架构服务器进行全网备份【20251216】001篇

阶段关键动作规划明确备份范围、频率、保留策略、存储容量部署rsync daemon + 密码认证 + 定时脚本测试手动执行 → 日志分析 → 恢复演练交付文档齐全、交接培训、责任人明确运维监控告警 + 自动化 + 安全审计。

老韩的Linux云计算架构师进阶之路 1149

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

软件测试工程师的自我修行之路

第一阶段:Linux云计算网络管理实战 1、网络历史 2、网络协议 3、进制转换 4、交换机 5、MAC 6、路由器 7、IP 8、公有云网络初识 9、阶段性项目实战   第二阶段:Linux云主机系统管理和服务配置实战 1、Linux简介 2、Linux操作系统初识 3、物理服务器部署 4、AliyunECS部署 5、Bash Shell基本语法 6、Linu

码农王也的博客 1227

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

上一篇: shell脚本---实现es备份导出到本地形成json文件
下一篇: linux中如何让普通用户访问其他用户的目录
lcm_linux
博客等级 码龄7年 7258粉丝 73原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值