多机部署之使用rsync+inotify实时双向同步代码

本文介绍如何使用rsync和inotify实现多机部署下代码的实时双向同步,包括安装配置rsync、inotify及编写监控脚本,确保同步数据的实时性和一致性。

本文已在本人博客https://www.nsxsg.com/archives/87首发

多机部署之使用rsync+inotify实时双向同步代码

rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。

  1. 安装rsync(两台服务器都要装)

    yum install -y rsync
    
  2. 创建或者修改 /etc/rsyncd.conf

    #rsync通用配置文件,配置的注释不要写在配置后面,否则会有问题
    uid = root
    gid = root
    use chroot = 0
    port = 873
    #允许ip访问设置,请根据实际需要进行配置,这里为了方便设为全网段 *,生产环境下为了安全请指定ip或ip段
    # hosts allow = 192.168.0.1/255.255.255.0 198.162.145.1 10.0.1.0/255.255.255.0
    hosts allow = *
    max connections = 0
    timeout = 300
    pid file = /var/run/rsyncd.pid
    lock file = /var/run/rsyncd.lock
    log file = /var/log/rsyncd.log
    log format = %t %a %m %f %b
    transfer logging = yes
    syslog facility = local3
    #方括号中为模块声明,对应命名,这里master_web对应了主web机配置,从服务器可都为[slave_web],方便inotify脚本配置
    [master_web]
    #指定当前模块在rsync服务器上的同步路径,该参数是必须指定的
    path = /home/wwwroot/
    #注释,可以同模块名一样,从服务器可都为slave_web
    comment = master_web
    ignore errors
    #是否允许客户端上传文件
    read only = no
    list = no
    #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块
    auth users = rsync
    #保存密码和用户名文件,需要自己生成
    secrets file = /etc/rsyncd.passwd
    
  3. 创建或者修改 /etc/rsyncd.passwd和/root/rsyncd.passwd

    #/etc/rsyncd.passwd中内容格式 用户名:密码 ,多个用户名密码则每添加多行,建议从web机都是一样的用户名和密码
    rsync:123456
    #/root/rsyncd.passwd中内容只需要填写从服务器的密码,例如这里从服务器配的用户名密码都是rsync:123456,这里主服务器则写123456一个就可以了
    123456
    
  4. 给文件赋权限

    chmod 600 /etc/rsyncd.passwd
    chmod 600 /root/rsyncd.passwd
    
  5. 以守护进程方式启动rsync服务

    /usr/bin/rsync --daemon --config=/etc/rsyncd.conf
    
  6. 添加开机自启动

    echo "/usr/bin/rsync --daemon --config=/etc/rsyncd.conf">>/etc/rc.local
    
  7. 验证代码是否同步

    # 主web服务器推送代码到从web服务器,命令中的
    # rsync@192.168.10.230::slave_web# 192.168.10.230 为从web服务器的ip,
    # slave_web 为从web服务器的 rsyncd.conf 中配置的模块名,
    # rsync 为为从web服务器的中 rsyncd.passwd 中配置的用户名
    rsync -vzrtopg --delete --progress /home/wwwroot/ rsync@192.168.10.230::slave_web --password-file=/root/rsyncd.passwd
    
  8. 安装inotify(两台服务器都要安装)

    wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz --no-check-certificate
    tar -zxvf inotify-tools-3.14.tar.gz
    makedir /usr/local/inotify
    cd inotify-tools-3.14.tar.gz
    ./configure --prefix=/usr/local/inotify
    make && make install
    # 查看是否安装成功
    ls -alh /usr/local/inotify/bin/inotify*
    # 建立软连接
    ln -s /usr/local/inotify/bin/inotifywait /usr/bin/inotifywait
    ln -s /usr/local/inotify/bin/inotifywatch /usr/bin/inotifywatch
    
  9. 配置rsync.sh同步监控脚本

    vi /root/rsync.sh
    
    # 内容如下
    #!/bin/bash
    src=/home/wwwroot/
    des=master_web #视情况自己配置,注意与下面的rsync命令结合配置
    user=rsync
    
    
    #多个ip就用空格间断,所有IP用一个双引号包起来
    host="192.168.10.230"
    /usr/bin/inotifywait -mrq –exclude=public –exclude=themes –exclude=wap_themes –timefmt '%d/%m/%y %H:%M' –format '%T %w%f' -e modify,delete,create,attrib src | while read file
    do
        for hostip in host
        do
            rsync -vzrtopg –delete –progress –exclude=themes –exclude=wap_themes –exclude=public {src} {user}@{hostip}::{des} –password-file=/root/rsyncd.passwd
            echo "${file} was rsynced" >> /tmp/rsync.log 2>&1
        done
    done
    
  10. 给rsync.sh脚本赋可执行权限

    chmod +x /root/rsync.sh
    
  11. 运行rsync.sh同步监控脚本和配置守护进程

    nohup sh /root/rsync.sh &
    
    #建立守护进程运行rsync.sh脚本
    echo “nohup sh /root/rsync.sh &>> /etc/rc.local
    
<think>好的,我现在需要解决用户提到的rsync配合inotify进行双向同步时的死循环问题,以及inotify进程崩溃的问题。首先,我得回忆一下之前给出的解决方案,确保这次回答一致且更深入。 用户提到参考了引用[1],但看起来是LVS的配置,可能用户误贴了,但按照系统提示,我应该忽略不相关的引用,专注于用户的实际需求。用户的主要问题是双向同步导致的死循环和进程挂掉,需要详细的解决步骤。 首先,死循环问题通常是因为同步操作触发了另一边的inotify事件,导致无限循环。之前的回答提到通过排除特定文件或目录来过滤这些事件,可能需要更具体的例子,比如排除临时文件或.rsync部分。 然后,关于inotify进程崩溃,可能的原因包括资源限制(如文件描述符不足)、脚本逻辑问题(比如没有错误恢复制),或者系统参数设置不当。需要检查系统日志,调整max_user_watches和max_user_instances,以及使用守护进程或systemd服务来监控和重启进程。 用户可能希望得到更具体的排查步骤,比如如何检查当前inotify限制,如何修改sysctl.conf,以及脚本中的具体过滤规则。同时,用户可能需要知道如何验证解决方案是否有效,比如压力测试方法。 另外,用户可能没有意识到使用专用工具如Unison的好处,可以再次建议作为替代方案,但重点还是在rsync+inotify的优化上。需要确保回答结构清晰,步骤详细,并且给出具体的命令和配置示例,方便用户直接操作。 最后,确保语言口语化,避免使用技术术语过,但又要准确。检查是否有遗漏的排查点,比如网络问题、权限问题,以及如何通过日志分析定位问题。可能还需要强调双向同步的配置细节,比如双脚本设计或单脚本处理双向事件时的注意事项。</think>#### 一、双向同步死循环问题的核心原因与解决方案 **根本原因**: 双向同步中,A端同步到B端的文件变更会再次触发B端的`inotify`监控事件,导致B端向A端反向同步,形成`A→B→A→B`的无限循环[^4]。 --- #### 二、针对性解决方案(附详细实现) 1. **文件变更标记过滤法** **原理**:通过文件特征标识同步操作自身产生的变更,避免二次触发 **实现步骤**: - 在同步命令中添加`--exclude`参数过滤临时标记文件 ```bash rsync -azP --delete --exclude='*.rsync_lock' /source/ user@remote:/dest/ ``` - 在触发同步前创建标记文件,同步完成后删除 ```bash touch /source/.rsync_lock # 创建标记 rsync [参数] # 执行同步 rm -f /source/.rsync_lock # 删除标记 ``` 2. **事件类型区分法** **原理**:`inotifywait`监控特定事件类型,如仅响应`CREATE,DELETE,MOVED_TO` **配置示例**: ```bash inotifywait -m -r --format '%w%f' -e create,delete,moved_to /source | while read FILE do rsync -azP --delete /source/ user@remote:/dest/ done ``` *说明*:忽略`MODIFY`事件可减少触发频率,但需根据业务需求调整监控事件类型。 3. **双向同步目录隔离法** **架构设计**: ``` A端监控目录:/data/a_primary B端监控目录:/data/b_primary 实际同步路径: A→B同步到 /data/b_replica B→A同步到 /data/a_replica ``` *优势*:物理隔离监控目录与接收目录,彻底避免循环触发。 --- #### 三、进程稳定性保障措施 1. **资源限制优化** - **内核参数调整**(需root权限): ```bash echo "fs.inotify.max_user_watches=1048576" >> /etc/sysctl.conf echo "fs.inotify.max_user_instances=1024" >> /etc/sysctl.conf sysctl -p ``` - **用户级限制调整**: ```bash echo "* soft nofile 65535" >> /etc/security/limits.conf echo "* hard nofile 65535" >> /etc/security/limits.conf ``` 2. **进程守护方案** **方案选择**: | 方案 | 优势 | 实现命令 | |-------------|---------------------------|-----------------------------------| | systemd托管 | 自动重启、日志管理 | `systemctl enable inotify-sync` | | screen会话 | 零配置快速部署 | `screen -dmS sync ./sync.sh` | | 脚本自循环 | 无依赖基础环境 | 添加`while true; do ... done` | **推荐systemd配置**: ```ini # /etc/systemd/system/inotify-sync.service [Unit] Description=Bidirectional Sync Service After=network.target [Service] Type=simple User=rsync_user ExecStart=/opt/sync_script.sh Restart=on-failure RestartSec=30s [Install] WantedBy=multi-user.target ``` 3. **异常中断捕获** **增强脚本示例**: ```bash #!/bin/bash trap "echo '进程被中断,10秒后重启' >> /var/log/sync_errors.log; sleep 10" SIGTERM SIGINT while true; do inotifywait -r -q -e create,delete,move /source if rsync -azP --exclude='*.tmp' /source/ user@remote:/dest/; then echo "$(date): 同步成功" >> /var/log/sync.log else echo "$(date): 同步失败,错误码$?" >> /var/log/sync_errors.log sleep 120 fi done ``` --- #### 四、问题排查流程图 ```mermaid graph TD A[发现死循环/进程崩溃] --> B{检查系统日志} B -->|Too many open files| C[调整max_user_watches] B -->|inotify watch limit| D[增加max_user_instances] B -->|权限拒绝| E[统一目录权限] A --> F{检查同步日志} F -->|连续同步记录| G[添加标记文件过滤] F -->|网络错误| H[测试rsync连通性] A --> I{压力测试} I -->|进程崩溃| J[部署systemd守护] I -->|资源不足| K[优化内核参数] ``` --- #### 五、验证方法 1. **循环触发测试** ```bash # 在A端生成测试文件 for i in {1..100}; do touch /source/test${i}.txt; done # 观察B端是否仅同步一次 watch -n1 'ls /dest | wc -l' ``` 2. **进程稳定性测试** ```bash # 模拟进程崩溃 killall -9 inotifywait # 检查自动恢复时间 journalctl -u inotify-sync --since "1 minute ago" ``` ---
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值