MinIO实现数据迁移(mc)

Minio资源迁移 阅读详情
AI摘要

本文介绍了如何部署和管理两个不同版本的MinIO服务,包括新版本2.3和旧版本2.3,以及使用mc工具进行数据迁移,包括设置alias、全量迁移和处理可能的错误。

运行两个版本的minio 

version: '2.3'

services:

  # 新版本

  minio2023:

    image:  minio/minio:RELEASE.2022-06-20T23-13-45Z.fips

    container_name: minio2023

    restart: always

    environment:

      - MINIO_ACCESS_KEY=minioadmin

      - MINIO_SECRET_KEY=minioadmin

      - MINIO_ROOT_USER=minioadmin

      - MINIO_ROOT_PASSWORD=minioadmin

      - TZ=Asia/Shanghai

    volumes:

      - /etc/localtime:/etc/localtime

    command: server /data --console-address ":9090" -address ":9000"

    ports:

      - 9000:9000

      - 9090:9090

  

version: '2.3'

services:

  # 旧版本

  minio2021:

    image: minio/minio:RELEASE.2021-06-17T00-10-46Z

    container_name: minio2021

    environment:

      MINIO_ACCESS_KEY: admi

      MINIO_SECRET_KEY: admin123

    command: server /data

    restart: always

    ports:

      - 19000:9000

      - 19001:9001

部署一个 mc 容器,做数据迁移

启动一个mc容器,并进入容器中

docker run -it  --entrypoint=/bin/sh minio/mc:RELEASE.2023-06-06T13-48-56Z

分别设置 minio2021 和 minio2023 的alias

# mc alias set 名称 服务地址 用户名 密码

# 设置minio2021的alias

mc alias set minio2021 http://ip:19000 admin admin123

# 设置minio2023的alias

mc alias set minio2023 http://ip:9000 minioadmin minioadmin

迁移数据

mc迁移数据通常有下面三种场景:

#1. 全量迁移,重名文件不覆盖,如bucket不存在,会自动创建

mc mirror  minio2021 minio2023

#2. 只迁移某个bucket,以test为例,迁移的目标bucket需要提前创建

mc mirror  minio2021/test  minio2023/test  #test要提前在minio2023中创建

  

#3. 加上--overwrite参数,覆盖重名文件

mc mirror  --overwrite  minio2021 minio2023

mc mirror  --overwrite  minio2021/test  minio2023/test

这里使用第一种方式,全量迁移,重名文件不覆盖,如bucket不存在,会自动创建

mc mirror  minio2021 minio2023 

 

通过minio 界面查看数据是否迁移成功  

需要迁移的桶全部迁移成功

MinIO Client (mc) 命令

ls 列出文件和文件夹。

mb 创建一个存储桶或一个文件夹。

cat 显示文件和对象内容。

pipe 将一个STDIN重定向到一个对象或者文件或者STDOUT。

share 生成用于共享的URL。

cp 拷贝文件和对象。

mirror 给存储桶和文件夹做镜像。

find 基于参数查找文件。

diff 对两个文件夹或者存储桶比较差异。

rm 删除文件和对象。

events 管理对象通知。

watch 监听文件和对象的事件。

policy 管理访问策略。

session 为cp命令管理保存的会话。

config 管理mc配置文件。

update 检查软件更新。

version 输出版本信息。

     例子

# 执行命令测试能否连通,如有文件或至少存在一个 Bucket,会在回显中列出:

mc ls minio1

# 执行命令获取集群数据大小,如果有文件或存在至少一个 Bucket,会在最后一行打印当前集群所有文件总大小:

mc du minio1

#查看cat ~/.mc/config.json里的配置

mc config host ls

#查看所有alias

mc alias ls

#使用命令检查是否有未完整传输的文件,如果有未传输完全的文件,会在回显中列出:

mc ls --incomplete minio1

#如果有必要,可以删除某个桶中的残缺文件:

mc rm --incomplete $hostName/$bucket

  mc cp 命令需要在目标集群拥有同名 Bucket,mc mirror 不需要,同时 mc mirror 会自动保存目录的层级信息,mc cp 需要额外指定 --recursive 参数,请根据需要酌情选择。

迁移的时候遇到的报错

mc: <ERROR> Unable to list comparison retrying.. S3 API Request made to Console port. S3 Requests should be sent to API port.

 通过单独查看 发现  是minio2023 的地址不对 

我是直接从浏览器复制的地址  为  ip:9090   实则是9000   重新配置别名修改一下 地址就可以了

快速搭建minio集群及数据迁移 在centos下搭建minio集群,使用4个节点;以及将minio单节点中的数据迁移到minio集群中,跟随笔记步骤可快速完成搭建 阅读详情

相关推荐

MinIO数据迁移实战:mc mirror实现准不停服增量同步与断点续传

对象存储作为云原生架构的核心组件,其数据迁移的稳定性和效率直接影响业务连续性。理解对象存储的基本原理,掌握高效的数据同步工具,是保障迁移成功的关键。在众多迁移方案中,基于S3兼容API的命令行工具因其对存储语义的完整支持,成为工程实践中的优选。通过全量基线同步加增量追平的策略,配合断点续传与并发控制,能够实现准不停服、不丢数据的安全迁移。无论是自建环境搬迁、跨云迁移还是灾备同步,合理运用增量同步机制都能显著降低迁移窗口。本文从对象存储迁移的通用挑战出发,深入解析mc mirror的核心参数与操作流程,结合M

weixin_34199764的博客 153

rclone 命令大全

### 文件上传 rclone copy /home/backup gdrive:backup # 本地路径 配置名字:谷歌文件夹名字 ### 文件下载 rclone copy gdrive:backup /home/backup ### 列表 rclone ls gdrive:backup rclone lsl gdrive:backup # 比上面多一个显示上传时间 rclone lsd g...

lvjianliusongnan的博客 1万+

【MinIO 数据迁移 + Keepalived VIP 主主备份高可用】

MinIO数据迁移与高可用部署指南 本文提供MinIO数据迁移与高可用配置的完整方案,涵盖: 数据迁移:使用mc工具完成单机/EC集群的全量/增量迁移(mirror/diff),包含桶策略同步与校验流程。 Keepalived配置:主备节点安装、健康检查脚本(端口/HTTP探活)及VRRP参数详解(virtual_router_id/priority/auth_pass)。 VIP定位:通过ip addr、arping或交换机ARP表快速判断VIP归属。 故障排查:常见问题清单(VIP漂移失败、脚本权限、防

alan0721的博客 1114

minio安装与数据迁移

访问http://127.0.0.0:9001,端口为启动时设置的控制台端口号,然后输入刚才设置的账号密码进行登录。后台启动并输出日志到minio.log,同时设置启动端口号9000和页面控制台端口号9001。将机器A的备份文件minio_data_bak导入到机器B的file桶中。创建桶,名称随意,之后根据业务代码上传文件到这里。,可通过netstat -ntlp命令查看。:机器B ip地址也就是本机。:要备份的机器A的桶。:备份数据的存放地址。

当作记事本用 1万+

(34)使用mc工具迁移minio数据

1.直接迁移(使用api端口,不可以使用console端口)开始迁移:(同步完成后继续监控)将容器中的数据拷贝到根目录下/

Linwk的博客 532

BookSim2.0 教程

本文是yz关于BookSim2.0的个人学习经验与教程。 1.介绍 什么是BookSim2.0 BookSim2.0 是周期正确的互联网络模拟器(A Cycle-Accurate Interconnection Network Simulator),被设计用来伴随William James Dally 等人出版的的书籍 Principles and Practices of INterconnection on Networks使用。 此后其功能不断得到扩展。当前的主要版本 BookSim 2.0 支持广泛

更新一些计算机体系架构NoC,GEM5, AXI4,还有machine learning 的日常 5737

MinIO客户端(mc)实现数据迁移、备份还原

一.概述 通过minio提供的客户端实现资源迁移,本文章的mc通过docker创建。 minio1的api地址是172.20.10.2:9000 minio2的api地址是172.20.10.2:9002 二.docker启动mc实例,并进入容器内部 docker run -it --entrypoint=/bin/sh minio/mc 三.通过mc命令连接两个minio服务 mc alias set minio1 http://172.20.10.2:9000 adminminio adminmini

lihongbao80的专栏 1万+

西门子S7-200 SMART PLC控制伺服电机

以下是使用西门子S7-200 SMART PLC控制伺服电机的详细程序框架和配置说明,涵盖硬件接线、PLC配置和基本运动控制逻辑。具体实现需根据伺服电机型号(如松下、三菱、台达等)调整参数。通过以上步骤,可实现伺服电机的基础位置控制。实际应用需根据设备机械参数和伺服驱动器手册调整细节。建议在调试时逐步测试脉冲输出和方向信号是否正常。

CHUXUEZHE8210的博客 6427

MinIO客户端(mc命令)实现数据迁移

概述 通过minio提供的客户端实现资源迁移,本文章的mc通过docker创建。

Dantesding的博客 7561

MAVLink协议详解

MAVLink是为微型飞行器MAV(Micro Air Vehicle)设计的(LGPL)开源的通讯协议。是无人飞行器和地面站(Ground Control Station ,GCS)之间,以及无人飞行器之间通讯常用的协议。APM、PIXHAWK飞控,Mission Planner、QGroundControl地面站均使用了MAVLink协议进行通讯。 MAVLink源码下载地址(现已更新至v2.0):https://github.com/mavlink/qgroundcontrol   用户手册:ht

程序猿老樊的博客 7707

uniapp - 解决苹果ios真机运行报错:错误:请查看是否设备未加入到证书列表或者确认证书类型是否匹配(HbuilderX运行IOS手机出现问题,uniapp运行到IOS真机提示请查看是否设备未)

uni-app,ios苹果,App平台端,uniapp运行到IOS真机提示错误:请查看是否设备未加入到证书列表或者确认证书类型是否匹配,UUID在哪里,uniApp运行到ios真机报错解决,安装自定义基座App失败,没找到有计划资源,证书、标识符和描述文件,证书标识符和描述文件下面没有选项怎么回事,HBuilder真机调试报错请查看是否设备未加入到证书列表或者确认证书类型是否匹配,UniApp运行到IOS真机提示,授权的设备才可以直接安装基座,添加调试的IOS设备,在Devices中,添加手机设备UUID

🏆 前端领域优质创作者 1万+

MinIO 数据迁移实战:使用 mc + screen 实现稳定后台迁移

本文介绍了使用 mc 客户端配合 screen 工具实现 MinIO 服务器间数据迁移的方法。首先安装配置 mc 客户端并设置服务器别名,然后通过 mc mirror 命令进行迁移,添加参数优化传输稳定性。使用 screen 保持迁移任务后台运行,避免 SSH 断开中断传输。最后验证迁移结果并说明增量同步方法。该方法适用于网络不稳定环境,支持断点续传和后台运行,能可靠完成大容量数据迁移。

m0_58159084的博客 392

lammps 案例:高熵合金FeNiCrCoCu建模及拉伸模拟

高熵合金力学性能模拟包括拉伸、剪切、摩擦等模拟,本文以高熵合金FeNiCrCoCu为例介绍高熵合金建模及拉伸过程模拟。 FeNiCrCoCu原子数量比为1:1:1:1:1 高熵合金的拉伸与单晶拉伸过程类似,主要包含以下步骤: 1.建模 高熵合金含有原子类型较多,建模时,一般以含量最多的原子为主建立初始模型。 使用set type/ratio或者set type/fraction的方式按一定比例替换为其它合金原子。 如随机选择20%的原子1,将其转换为原子2: set type 1 type/ratio 2

lammps_jiayou的博客 6067

手把手教你用mc工具实现MinIO数据迁移与主备同步(含一键脚本)

本文详细介绍了如何利用MinIO官方命令行工具mc,安全高效地完成数据迁移与主备同步。通过实战步骤解析和自动化脚本,指导用户应对版本升级中的数据一致性挑战,并构建高可用的主备方案,确保业务连续性。

weixin_28347369的博客 365

工业级C#+YOLOv8缺陷检测系统:准确率98.5%、延迟<50ms的完整实现

本文分享了基于C#和YOLOv8的工业级表面缺陷检测系统实现方案。针对汽车零部件冲压件检测需求(60件/分钟,准确率>98%,延迟<100ms),作者对比了多种技术方案后选择了C#+YOLOv8+ONNX Runtime的组合,最终实现98.5%准确率和42ms延迟。 系统采用分层模块化架构,包含硬件层、采集层、推理层、业务层和控制层。核心优势包括:1)C#在工业环境下的稳定性和集成便利性;2)YOLOv8对复杂缺陷的泛化能力;3)ONNX Runtime GPU加速提升性能。文章详细介绍了硬件

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 1141

航天设备研制中的形态分类:电性件、正样件及其他关键形态详解

航天设备的研制是一个高度复杂且严谨的工程过程,涉及多个阶段的不同产品形态。这些形态各具特点,在研制流程中承担着不同的验证任务和工程目标。本文将系统介绍航天设备研制中的主要形态,包括**电性件(EM)**、**正样件(FM)**以及**结构热控件(STM)**、**鉴定件(QM)**和**初样件(PFM)**等,详细解析它们的定义、用途和工程意义,帮助读者全面理解航天产品从设计到飞行的全生命周期管理。

ScilogyHunter的博客 1661

minio数据迁移-mc

minio数据迁移-mc 下载/安装 wget https://dl.min.io/client/mc/release/linux-amd64/mc chmod +x ./mc 配置 ./mc config host add ${MINIO_NAME} http://${HOST_IP}:${Port} ${UserName} ${PASSWD} example: ./mc config host add minio-source http://source-ip:source-port sourc

m0_37732829的博客 1081

RT-DETR改进策略【Neck】| GFPN 超越BiFPN 通过跳层连接和跨尺度连接改进RT-DETR颈部网络

本文记录的是利用颈部结构优化RT-DETR的目标检测网络模型。利用改进后的颈部网络,通过跳层连接,避免了在进行反向传播时的梯度消失问题,并且引入跨尺度连接,可以实现不同级别和层次的特征充分融合,获取足够的高层语义信息和低层空间信息交换,从而在大规模变化场景下提高检测性能。GIRAFFEDET: A HEAVY-NECK PARADIGM FOR OBJECT DETECTION-GFPN包含了上述的跳层连接(dense-link和log2nlog _{2} nlog2​n-link)以及跨尺度连接(Quee

Limiiiing的博客 2229

MinIO数据迁移避坑指南:用Shell脚本+mc cp实现带重试和日志的可靠文件拉取

本文详细介绍了如何利用Shell脚本和mc cp命令实现MinIO数据迁移的自动化方案,重点解决网络波动导致的中断问题。通过集成自动重试机制、详细日志记录和并行传输优化,构建了一个工业级的可靠文件拉取系统,适用于生产环境中的大规模数据迁移场景。

weixin_33725722的博客 384

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

超简单3步将阿里云oss数据迁移到本地minio,或者将minio迁移到oss

3步将阿里云oss数据迁移到minio

subtle_01的博客 1581

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

MinIO多用户权限控制管理的配置、minio的数据迁移复制及wget下载403的问题

MinIO可以实现多用户权限控制管理,不过不能在浏览器界面中实现,而要使用mc管理工具,mc工具的安装使用见文章:MinIO默认的权限管理策略只有writeonly,readonly和readwrite,而且是针对所有的bucket的,要实现对不同的桶进行不同的权限管理,需要使用自定义policy。使用mc admin policy创建政策。可以在/root/.mc目录中创建一个json文件,比如onebucket.json。即表示我们要设置只能操作一个桶的一个账户。

本博客记录了从2014年以来在工作学习中遇到的技术问题、解决方法以及部分个人人生经历、经验等内容。 2512

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

MinIO 桶迁移:使用 mc mirror 实现数据同步

好在 MinIO 官方提供的 mc(MinIO Client)工具 已经内置了数据迁移的能力,我们可以非常简单地完成桶数据的复制和同步。MinIO 的 mc mirror 命令非常适合做桶级别的数据迁移和同步,不论是一次性的迁移,还是实时同步场景,都能满足需求。在日常运维或系统迁移过程中,我们经常会遇到 需要将一个 MinIO 实例的数据迁移到另一台服务器 的场景。如果目标桶已经有同名文件,默认不会覆盖。如果你也正好需要做 MinIO 的桶迁移,可以直接拿这套命令试试。目标 MinIO 的别名为 dst。

曼陀罗的博客 1336

MinIO数据迁移实战:用mc命令5分钟搞定跨服务器备份(含常见错误排查)

本文详细介绍了如何使用MinIO的mc命令在5分钟内完成跨服务器数据迁移与备份,包括环境配置、核心迁移命令、增量同步方案及常见错误排查。mc工具凭借原生S3协议支持、增量同步能力和元数据完整性,成为高效数据迁移的首选方案,特别适合处理海量小文件场景。

cuda7parallel的博客 807

使用Docker安装MinIO单机版并实现文件迁移

若没有minio源地址,可以继续按一种操作继续安装一个minio作为源地址,因为需要看到效果,所以我们在源地址minio中手动创建几个bucket并在其下面上传数个文件,等待迁移效果。有了这门技术后,是不是发现自己可以打造一个云端文件存储系统了,而且还全免费,顶多就是购买一个服务器,就算云服务器到期了,在即将到期之前,我们把数据进行迁移就可以实现文件的永不丢失了!等待操作完毕,我们打开目标地址minio,并登录后,发现所有的bucket及其文件都迁移回来了!好啦,今天的课程到此结束,下课!

小筱在线博客 2378

minio备份

备份只需要使用mirror指令即可,如果需要热备可以通过watch参数实现热备参数示例(minio_master为自定义的minio服务器节点,通过后续示例中的mc alias set指令配置)登录后复制 mc mirror --overwrite --watch minio_master minio_slave1.备份...

weixin_40259965的博客 425

Linux环境Minio的数据迁移、备份和恢复

一次迁移某个服务器所有数据(不指定桶名称)时,则要求新服务器B上必须存在迁移服务器A上所有的桶,否则会提示找不到对应桶而无法迁移数据。# 将服务器B上名为bucket-demo的桶的数据备份到/home/minio/backup/bucket-demo目录。# 将某个桶(比如:bucket-demo)的备份数据恢复到服务器B的指定桶(比如:bucket-demo2)中。(b)可以将某个服务器的某个桶的备份数据恢复到任意服务器的任意一个桶(桶和服务器都可以不同)中;

allway2的博客 98
上一篇: 利用PostGIS自带工具导入shp数据
下一篇: Linux根目录挂载点(/dev/mapper/centos-root)扩容
峥嵘37
博客等级 码龄10年 73粉丝 55原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值