AWS S3 Glacier数据恢复

冷热分层与归档:S3/Glacier + ABP 生命周期任务 本文基于 ABP vNext 与 AWS S3,给出可复现的冷热分层与归档方案:通过 BlobStoring.Aws 接入并规范多租户命名;用 S3 Lifecycle(含 <128KB 默认门槛)实施分层;以 Object Lock/Legal Hold 满足合规;用 S3 Inventory+A thena 或 S3 Metadata(Iceberg)构建可检索目录;以 ABP Workers/Jobs 编排 Restore→Copy 升温与 Batch 并发;并提供成本模型与监控策略。 阅读详情

存储在S3中的数据,我设定了将超过360天之后自动转入archive模式,因为经过1年后,这些旧数据使用就很少了,转换存储模式能节省不少费用。

但是对于这些已经archive之后的文件,需要使用时,默认是无法下载的,需要去恢复才行。

对于单个或者少量文件恢复,可以直接在Console界面上操作


但是对于大量文件需要恢复对情况,就必须用aws cli或者使用Batch Operations 来处理,S3 Batch Job是最好的方式,具体如下

1.- 使用命令导出需要恢复的文件列表,在Cloudshell中执行

##替换Your-S3-Bucket,和Your-Folder/Path
aws s3api list-objects-v2 --bucket Your-S3-Bucket --prefix Your-Folder/Path/ --query "Contents[?StorageClass=='GLACIER'][Key]" --output text | sed 's/\t/\n/g' > galcier-restore.txt
##根据特定文件名获取文件列表,文件夹有空格用\, grep -E 截取特定文件名字符

aws s3api list-objects-v2 --bucket Your-S3-Bucket --prefix Marti/Sum\ data/ --query "Contents[?StorageClass=='GLACIER']" --output text | grep -E 'Marti/Sum data/Sum_' >> restore-txt

2.- 将文件下载到本机,可先上传到一个S3 bucket里,使用 aws s3 cp 命令

aws s3 cp ./glacier-restore.txt s3://Your-S3-Bucket/

下载下来后,将txt内容复制到excel,一栏放置bucket名,一栏放文件路径,然后保存成csv文件,如下图

3.- 将csv文件上传会S3 bucket,然后进入S3 Batch Operation创建job

指向csv文件

指定保存结果的S3路径

Permission建议根据这个提示创建一个新role

创建好后,需要手动触发 Run Job(新版本会自动跑)

完成后系统会报告结果

然后等待数个小时后,恢复的文件便可以从S3中下载了


有一次遇到一个奇怪的问题,job fail了,提示:

Reasons for failure

Unsupported encryption type SSE_KMS used for manifest

查询后发现原来是存放restore.csv的S3 bucket使用了自定义的key,后来将文件上传到其它bucket解决了。

Amazon S3基础知识 (一)S3 Standard - IA(Infrequent Access)(三)生命周期策略(Lifecycle Policies)(二)S3 VPC端点(S3 VPC Endpoint)(四)S3 Intelligent - Tiering。(一)S3 Transfer Acceleration。(三)S3 Glacier Deep Archive。(五)S3 One Zone - IA。(二)版本控制(Versioning)(二)S3 Glacier。二、数据安全相关知识点。(一)对象大小和上传。 阅读详情

相关推荐

29、AWS 备份策略与实践指南

本文详细介绍了在AWS云环境中实施备份策略的多种方法,包括使用RDS数据库快照、从EC2实例备份静态文件到S3、结合S3和Glacier进行滚动备份,以及PostgreSQL数据库的备份实践。文章还对比了不同备份方式的适用场景、优点与缺点,并总结了备份操作的注意事项,帮助用户选择适合自身业务需求的备份策略,确保数据在发生故障时能够有效恢复,保障业务连续性。

web39explorer的博客 85

restic冷备份实战指南:S3 Glacier深度恢复策略解析

restic是一款快速、安全且高效的备份程序,它能够帮助用户轻松实现数据的冷备份和恢复。本文将详细介绍如何使用restic结合S3 Glacier进行冷备份,并深入解析其恢复策略,为新手和普通用户提供专业易懂的操作指南。 ## 一、S3 Glacier冷备份准备工作 ### 1.1 创建S3存储桶 首先,我们需要在AWS S3中创建一个用于存储备份数据的存储桶。登录AWS管理控制台,进入S3服

gitblog_00663的博客 363

21、Amazon S3与Glacier:数据存储与管理全解析

本文深入解析了Amazon S3与Glacier两种AWS存储服务的特点与使用场景,涵盖数据上传、备份、版本控制、归档至Glacier及恢复的完整流程。通过对比S3与Glacier在成本、可访问性和耐久性方面的差异,帮助用户根据需求选择合适的服务。结合CLI操作、管理控制台和SDK集成,提供了从实践到最佳实践的全面指导,适用于静态网站托管、数据湖构建、用户内容存储等多种应用场景。

gold8的专栏 50

python从s3的GLACIER上批量下载对象

从s3的GLACIER上批量下载对象的Python代码 python代码 #!/usr/bin/env python # -*- coding: utf-8 -*- import logging import boto3 from botocore.exceptions import ClientError import sys import os import time import botoc...

1164

18、AWS Glacier 存储管理与数据迁移全解析

本文详细解析了如何使用 AWS Glacier 进行存储管理与数据迁移。内容涵盖 Glacier 保险库的创建与删除、数据迁移策略的定义、AWS 提供的多种数据迁移工具(如 Direct Connect、Kinesis Firehose、Snowball 等)及其适用场景、S3 与 Glacier 的集成、开源数据传输软件的使用,以及网关在企业级应用中的重要性。通过对比分析不同工具的特点,帮助用户选择最适合的迁移方案,同时探讨了迁移过程中需要注意的成本、安全性和自动化问题。

raspberrypi5的博客 88

20、AWS S3 和 Glacier 对象存储使用指南

本文详细介绍了如何使用 AWS S3 和 Glacier 进行对象存储,涵盖编程访问、数据恢复选项、静态网站托管配置、最佳实践等内容。通过 Simple S3 Gallery 示例演示了如何使用 SDK 集成 S3 到应用程序中,并探讨了确保数据一致性和优化 I/O 性能的策略。同时介绍了 S3 的最终一致性模型和在实际应用中应考虑的关键因素,帮助用户高效、稳定地利用 S3 构建可扩展的云存储解决方案。

sql99的博客 86

将数据归档到AWS Glacier

要在AWS上归档数据,可以使用AWS Glacier 。 该服务提供的存储空间比S3服务便宜,但缺点是无法像使用S3一样立即访问您的数据。 恢复数据可能需要几个小时,但是如果您出于真正的存档目的使用此服务,那么这不是真正的问题。 让我们使用管理控制台设置Glacier Vault。 在管理控制台中选择Glacier服务: 点击“创建保险柜”并为其命名: 设置一个新的SNS...

danpob13624的博客 466

4、 AWS存储和数据管理深度解析

本文深入探讨了AWS提供的存储解决方案,包括S3、Glacier、存储网关等服务的使用方法和最佳实践。同时,文章还详细介绍了如何通过生命周期管理、加密、备份和恢复策略来优化数据管理,并通过实际案例展示了这些技术的应用效果。

weixin_29940495的博客 143

使用Python还原s3的GLACIER对象

使用Python还原s3的GLACIER对象的代码 注意:发起还原之前要先检查是不是有正在进行的还原任务,或者有已经还原的临时对象。 以下是发起任务后调用head-object返回的json。 { "AcceptRanges": "bytes", "Restore": "ongoing-request=\"true\"", "LastModified": "Tue, 26 ...

628

从零开始安装使用opengauss数据库(高斯数据库)

openGauss(高斯数据库)的环境配置、安装方法、基本使用方法

qq_43764807的博客 1万+

基于STM32开发的智能语音控制系统

本文将介绍如何使用STM32微控制器开发一个智能语音控制系统,通过语音识别模块、OLED显示屏、Wi-Fi模块等实现对家用电器或其他设备的语音控制。智能语音控制系统的核心是STM32微控制器,通过语音识别模块识别用户的语音指令,并根据指令控制家用电器或其他设备。:定期测试语音识别模块、继电器控制模块、OLED显示屏和Wi-Fi模块的工作状态,确保系统能够在各种情况下正常运行,并保持智能语音控制系统的可靠性。本系统同样适用于办公环境,可以通过语音指令控制办公室设备,如照明、空调等,提供智能化的办公体验。

stm32d1219的博客 6911

AWS数据湖构建终极指南:S3+Glacier存储策略详解

AWS数据湖构建是现代企业数据架构的核心环节,通过S3与Glacier的组合存储策略,能够实现海量数据的高效管理与成本优化。本文将系统讲解如何利用AWS S3的灵活存储层级与Glacier的低成本归档能力,构建安全、可扩展且经济的数据湖解决方案,帮助新手用户快速掌握数据湖设计的关键要点与最佳实践。 ## 数据湖基础:为什么选择S3+Glacier组合? 数据湖作为集中存储企业各类结构化与非结构

gitblog_00881的博客 937

IntelliJ IDEA 中git使用说明书

IntelliJ IDEA 中git使用说明书

junyang2012的博客 5389

利用S3 Glacier存储类别最大化冷数据的价值

利用S3 Glacier存储类别最大化冷数据的价值

weixin_46812959的博客 1172

通俗易懂的图解二叉搜索树、AVL树和红黑树

搜索是一种很常见的需求,当数据较多时,如何找到目标对象时,即需要搜索查找。 那么如何快速找到目标呢,最朴素的思想就是暴力查找,一个一个对比。 显然,当数据量增大时,我们需要优化查找方法获取更快的查找速度,我们可以通过维护一个有序数组,从而实现二分查找,查找速度从O(n)降为O(longn)。 但是数组并不便于插入和删除,链表便成为了最好的选择。 既然是采用二分查找,那么不如直接按照查找的步骤维护一种数据结构,于是二叉搜索树出现了。 二叉搜索树的性质为: 若左子树不为空,则左子树上所有节点值都小于根结点值;

暗色光的博客 758

Node-RED系列(二二):使用dashboard搭配echarts制作漂亮的面板

在node-red中dashboard 是一个很常用的模块,其中它有一个chart节点可以用来制作一些图表,比如柱状图,折线图,饼图,但其中的图表并不是很美观,而且可配置项非常的少。 于是就有很多小伙伴找我做一套比较好看的图表面板,在对比了一下几个图表库,我选中了echarts。 不仅美观大方,而且非常容易集成,配置。下面先来看一下我做的效果。这里是直接做了四个折线图,第一个折线图有动态效果,第二个折线图是一个多线条的折线图,第三个折线图是在一个图例显示两个折线图。第二第三都可以用于数据对比。 第四个折线

知无涯 1万+

Terraform AWS Remote State S3 Backend 项目常见问题解决方案

Terraform AWS Remote State S3 Backend 项目常见问题解决方案 1. 项目基础介绍 Terraform AWS Remote State S3 Backend 是一个开源项目,用于帮助用户设置 AWS S3 作为 Terraform 远程状态管理的后端。项目通过创建加密的 S3 桶来存储状态文件,并使用 DynamoDB 表来进行状态锁定和一致性检查。项目遵循官方...

gitblog_00929的博客 715

DICOM标准:DICOM医学影像中的覆盖层(Overlay)概念详解

DICOM标准:深入详解DICOM医学影像中的覆盖层(Overlay)

编程技术探索者,分享C/C++、C#、Java、数据库等开发经验,聚焦实战技巧与AI兴趣,助力编程爱好者成长。 1562

应对海量数据归档难题?AWS Glacier 的低成本冷存储解决方案实践指南

随着企业数字化转型加速,数据量呈指数级增长。据IDC预测,2025年全球数据总量将突破175ZB,其中超过80%为非活跃的冷数据(如备份、日志、历史业务数据)。如何以低成本、高可靠的方式长期存储这些数据,成为企业IT架构的一大挑战

awscloud的博客 1298

Android Input——输入事件ANR执行(十六)

上一篇文章我们介绍了输入事件 ANR 的触发流程,这里我们再来看一下输入事件 ANR的执行流程。

小旭的专栏 944

YOLOv10改进 | 主干篇 | 引入FasterNet:Run, Don‘t Walk,追求更快的神经网络

本文引入了 FasterNet 作为 YOLOv10 的主干网络。通过 PConv 算子,我们有效降低了模型的计算冗余。对于追求极致推理速度的场景(如树莓派、Jetson Nano),该改进方案极具价值。建议在训练时配合混合精度训练 (AMP)进一步加速。

weixin_51988935的博客 604

探索深度存档的低成本备份圣杯:使用glacier_deep_archive_backup守护数据安全

探索深度存档的低成本备份圣杯:使用glacier_deep_archive_backup守护数据安全 glacier_deep_archive_backupExtremely low cost, off-site backup/restore using AWS S3 Glacier Deep Archive项目地址:https://gitcode.com/gh_mirrors/gl/glaci...

gitblog_00031的博客 465

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

AWS DevOps零基础到精通项目:深入解析Amazon S3云存储服务

在数字化转型的浪潮中,数据已成为企业的核心资产。Amazon S3(Simple Storage Service,简单存储服务)作为AWS云存储的基石,不仅是存储解决方案,更是构建现代化应用架构的关键组件。本文将深入解析S3的核心概念、最佳实践和实际应用场景,帮助您从零开始掌握这一强大的云存储服务。 ## 一、S3基础概念与架构解析 ### 1.1 什么是Amazon S3? Amazon ...

gitblog_00569的博客 536

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

Databricks免费版+AWS S3+MLflow开源版端到端MLOps实践

MLOps 是指将机器学习模型开发、训练、评估、部署与监控流程工程化的方法论;其核心在于追踪(Tracking)、模型注册(Model Registry)与可复现性(Reproducibility)。基于开源 MLflow 的轻量级追踪服务,结合 Databricks Community Edition 计算资源与 AWS S3 对象存储,可构建零商业许可依赖的最小可行 MLOps 链路。该方案利用 SQLite 存储元数据、S3 托管模型二进制文件,并通过 IAM 最小权限策略保障安全,显著降低中小团队和

ckkay800264的博客 507

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

AWS存储之 Storage Gateway

它允许您在本地环境和AWS云之间无缝地集成存储解决方案。它提供了一种简单、安全地方式,让您可以将本地应用程序连接到云存储服务,如Amazon S3、Amazon Glacier、Amazon EBS等。,然后配置备份策略,这样就可以将数据备份到Amazon S3。通过AWS云服务来管理备份数据,并在需要时轻松地将备份数据恢复到本地。将Storage Gateway部署在本地数据中心。AWS Storage Gateway是一项。比如一个公司如果想将。

QYHuiiQ 898

5个Restic云存储成本优化技巧:冷存储与智能生命周期管理终极指南

Restic是一款快速、安全且高效的备份程序,通过优化云存储策略可以显著降低长期备份成本。本文将分享5个实用技巧,帮助你利用冷存储和智能生命周期管理功能,在不牺牲数据安全性的前提下最大化节省云存储开支。 ## 技巧1:利用S3 Glacier冷存储降低长期备份成本 对于不常访问的历史备份,将数据存储到Amazon S3 Glacier等冷存储服务可大幅降低存储费用。Restic支持通过命令行选

gitblog_00192的博客 960
上一篇: 常用Ubuntu命令汇总
下一篇: rclone的使用
monkey22
博客等级 码龄18年 50粉丝 32原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值