shell脚本之rsync、xsync、xcall

  • rsync

rsync 远程同步工具,主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。

rsync 和 scp 区别:用 rsync 做文件的复制要比 scp 的速度快,rsync 只对差异文件做更新。scp 是把所有文件都复制过去。

(1) 查看rsync 使用说明

man rsync | more

(2) 基本语法

rsync -rvl   $pdir/$fname      $user@hadoop$host:$pdir

命令 命令参数 要拷贝的文件路径/名称   目的用户@主机:目的路径选项

-r 递归

-v 显示复制过程

-l 拷贝符号连接

(3) 案例实操

把本机/opt/tmp 目录同步到 hadoop03 服务器的 root 用户下的/opt/tmp 目录

 rsync -rvl /opt/tmp  root@hadoop03:/opt/

 

  • xsync编写集群分发脚本

1)  需求分析:循环复制文件到所有节点的相同目录下。

(1) 原始拷贝:

rsync  -rvl  /opt/module   root@hadoop03:/opt/

(2) 期望脚本:

xsync  要同步的文件名称

(3) 在/usr/local/bin 这个目录下存放的脚本,可以在系统任何地方直接执行。

2)  案例实操:

(1)   在/usr/local/bin 目录下创建 xsync 文件,文件内容如下:

  [root@hadoop02 bin]# touch xsync

  [root@hadoop02 bin]# vi xsync

#!/bin/bash
#1 获取输入参数个数,如果没有参数,直接退出
pcount=$#
if((pcount==0)); then
    echo no args;
    exit;
fi
#2 获取文件名称
p1=$1
fname=`basename $p1`
echo fname=$fname
#3 获取上级目录到绝对路径
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir
#4 获取当前用户名称
user=`whoami`
#5 循环
for((host=103; host<105; host++)); do
    #echo $pdir/$fname $user@hadoop$host:$pdir
    echo --------------- hadoop$host ----------------
    rsync -rvl $pdir/$fname $user@hadoop$host:$pdir
done

(2)修改脚本 xsync 具有执行权限

[root@hadoop102 bin]# chmod 777 xsync

[root@hadoop102 bin]# chown dy:dy -R xsync

(3)调用脚本形式:xsync 文件名称

[root@hadoop02 opt]$ xsync tmp/

  • xcall编写集群操作脚本 

1)      需求分析:在所有主机上同时执行相同的命令xcall +命令

2)      具体实现

(1)在/usr/local/bin 目录下创建 xcall 文件,文件内容如下:

 [root@hadoop102 bin]# touch xcall

 [root@hadoop102 bin]# vi xcall

#!/bin/bash
pcount=$#
if((pcount==0));then
    echo no args;
    exit;
fi
echo -------------localhost----------
$@
for((host=101; host<=108; host++));
    do echo ----------hadoop$host---------
    ssh hadoop$host $@
done

(2)修改脚本 xcall 具有执行权限

[root@hadoop02 bin]# chmod 777 xcall

[root@hadoop02 bin]# chown dy:dy xcall

(3)调用脚本形式: xcall 操作命令

[root@hadoop02 ~]# xcall rm -rf /opt/tmp/

 

转载https://www.codeleading.com/article/74872170983/

参考https://blog.youkuaiyun.com/weixin_44318830/article/details/104439628

<think>好的,用户想知道如何用shell脚本监控rsync传输进度并实时输出传输的文件名。我需要先理解rsync本身的输出选项,然后考虑如何捕获和处理这些信息。 首先,rsync默认的输出可能不够详细,所以可能需要增加verbose选项。记得rsync的-v参数可以显示传输的文件,-vv或更高的verbosity可能提供更多细节。但用户需要的是实时输出文件名,所以应该用-v或者--progress结合其他参数。 不过,--progress主要显示进度百分比,可能不够。另外,rsync在传输文件时会按顺序处理,所以每个文件开始传输时会有相关信息。可能需要解析rsync的输出,提取正在传输的文件名。 然后,考虑如何在shell脚本中实时处理这些输出。可能需要使用管道或者重定向,逐行读取rsync的输出。比如使用while read循环来处理每一行的输出,并从中提取文件名。 另外,用户可能希望看到动态更新的进度,但rsync本身在非交互式shell中的输出可能缓冲,导致无法实时显示。这时可能需要使用stdbuf或者其他工具来调整缓冲设置,确保输出实时。 还有,rsync的--itemize-changes参数配合-iv选项可能会输出详细的变化信息,其中包含文件名。可以尝试解析这些输出。例如,rsync -avzi --out-format='%n'可能会自定义输出格式,直接显示文件名。 此外,需要考虑错误处理,比如传输中断或权限问题,脚本是否能够捕捉到这些情况并做出响应。可能需要检查rsync的退出状态码,并在失败时进行处理。 最后,综合这些思路,写出一个示例脚本,展示如何启动rsync命令,捕获其输出,并实时显示传输中的文件名。同时,可能还需要解释每一步的作用,帮助用户理解。</think>以下是通过shell脚本监控rsync传输进度并实时输出文件名的实现方案: ### 一、核心实现方法 1. 使用rsync的`-v`参数显示传输详情 2. 通过`--progress`参数获取实时进度 3. 利用管道实时解析输出信息 ```bash #!/bin/bash # 监控rsync传输过程 SOURCE="/path/to/source/" DEST="user@host:/path/to/dest/" rsync -avz --progress $SOURCE $DEST | \ while read -r line do # 提取正在传输的文件名 if [[ $line == *\ */ ]]; then file=$(echo $line | awk '{print $2}') echo "[传输中] $file" # 提取进度百分比 elif [[ $line =~ [0-9]+% ]]; then progress=$(echo $line | grep -o '[0-9]\+%') echo "当前进度: $progress" fi done ``` ### 二、关键参数解析 1. `-a`:归档模式,保持文件属性 2. `-v`:显示传输详情(必须参数) 3. `-z`:启用压缩传输 4. `--progress`:显示传输进度条[^3] ### 三、增强版方案(包含错误处理) ```bash #!/bin/bash LOG_FILE="/var/log/rsync_monitor.log" { echo "传输开始时间: $(date)" rsync -avzi --stats --human-readable $SOURCE $DEST | \ tee /dev/tty | \ awk ' /^sent/ { print "总数据量: "$5 } /^total size/ { print "已完成传输" } /[^/]$/ { print "正在传输: "$2 } ' if [ $? -ne 0 ]; then echo "传输失败,错误码: $?" >&2 exit 1 fi echo "传输结束时间: $(date)" } | tee $LOG_FILE ``` ### 四、方案特性对比 | 功能 | 基础方案 | 增强版方案 | |--------------|----------|------------| | 实时文件名显示 | ✓ | ✓ | | 进度百分比 | ✓ | ✓ | | 传输统计信息 | ✗ | ✓ | | 日志记录 | ✗ | ✓ | | 错误处理 | ✗ | ✓ | ### 五、注意事项 1. 需要确保`rsync`版本≥3.1.0(支持`--info=progress2`) 2. 如果传输大量小文件,建议添加`--partial-dir`参数[^2] 3. 网络中断时自动重试参数:`--timeout=30 --contimeout=60` 4. 对传输结果进行校验可添加`--checksum`参数[^1]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值