linux中使用rsync+inotify-tools+ssh文件实时同步

在某些服务器架构中,会遇到文件同步问题,例如需要做站点镜像备份,同步文件到多个CDN节点等。需要解决的主要有两个问题

1.如何实现文件同步问题? 2.何时执行同步操作?

文件同步可以使用rsync+ssh,什么时候自行同步操作呢?可能部分人会想到cron,这个没错,可以实现的,但是确实有点浪费资源,因为cron并不知道文件是否被修改过,只是不停的周期性的执行,如果文件修改后再执行同步操作,不修改就不执行那应该比较好,其实inotify就可以做到,只要你的服务器不是古董级别的,就支持inotify,来几句没用的话:

 Inotify 是一个 Linux特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等。Inotify 反应灵敏,用法非常简单,并且比 cron 任务的繁忙轮询高效得多。

    假设某服务器架构中有两台web服务器(IP为192.168.1.252和192.168.1.254),一台代码更新发布服务器(IP为192.168.1.251),需要同步的目录是/data/www/,结构图如下:


下面介绍一下安装步骤

在代码发布服务器(192.168.1.251)上安装inotify,执行如下命令

tar xzvf inotify-tools-3.14.tar.gz
cd inotify-tools-3.14
./configure
make
make install
cd ..

在所有服务器上(代码发布服务器和需要同步的服务器)上安装rsync,命令如下:

tar zxvf rsync-3.0.9.tar.gz
cd rsync-3.0.9
./configure
make
make install

#------以上命令在每台服务器上都需要执行---------

在代码发布服务器与需要同步的服务器之间配置ssh key信任,在代码发布服务器上生成公钥和私钥
ssh-keygen -t rsa

直接三次回车

将公钥添加到各个需要更新的主机authorized_keys 文件中,在代码更新服务器上再执行
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.252
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.254
如果有提示 输入yes
按提示输入密码回车

然后两台需要web服务器(192.168.1.252和192.168.1.254 )重启ssh
service sshd restart
在代码发布服务器上以root身份创建inotify_rsync.sh脚本vi /root/inotify_rsync.sh 输入

#!/bin/sh
SRC=/data/www/    #代码发布服务器目录
DST=/data/www/    #目标服务器目录
IP="192.168.1.252 192.168.1.254"    #目标服务器IP,多个以空格隔开
USER=root
/usr/local/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M' --format '%T %w%f %e' --exclude "(.swp|.swx|.svn)" \
-e create,move,delete,close_write,attrib $SRC | while read files
do
for i in $IP
do
    /usr/local/bin/rsync -ahqzt --exclude Runtime --delete $SRC $USER@$i:$DST
    echo $files >>/tmp/rsync.log 2>&1
done
done

相关解释:

uusr/local/bin/inotifywait -mrq --timefmt '%Y-%m-%d %H:%M' --format '%T %w%f %e' --exclude "(.swp|.swx|.svn)" \
-e create,move,delete,close_write,attrib $SRC | while read files

 -m 是保持一直监听
 -r 是递归查看目录
 -q 是打印出事件
 -e create,move,delete,close_write,attrib 是指 “监听 创建 移动 删除 写入 权限” 事件
 
/usr/local/bin/rsync -ahqzt --exclude Runtime --delete $SRC $USER@$i:$DST
 -a 存档模式
 -h 保存硬连接
 -q 制止非错误信息
 -z 压缩文件数据后传输
 -t 维护修改时间
 -delete 删除于多余文件
--exclude 排除同步的文件
 
然后赋予脚本可执行权限

chmod +x /root/inotify_rsync.sh

设置开机自启动 echo "/root/inotify_rsync.sh &" >> /etc/rc.local
执行脚本/root/inotify_rsync.sh &
在代码更新服务器的/data/www/目录中创建文件,测试效果。

时间: 2024-08-01 16:02:52

linux中使用rsync+inotify-tools+ssh文件实时同步的相关文章

linux系统中rsync+inotify实现服务器之间文件实时同步_Linux

之前做了"ssh信任与scp自动传输脚本"的技术文档,此方案是作为公司里备份的方法,但在实际的运行中,由于主服务器在给备份服务器传输的时候,我们的主服务器需要备份的文件是实时.不停的产生的,造成不知道主服务器给备份服务器传输了多少文件,磁盘空间就那么大,做备份的原因:一个是为了保持文件,另外一个是解决主服务器的磁盘饱满问题,但由于不知道备份服务器到底接收了多少文件,所以主服务器里的文件不敢删除(如果没有备份的情况下删除,问题就严重了,我这个是政府的项目,服务器里的文件都是重要的,删错了

Linux中使用rsync——文件和目录排除列表

Linux中使用rsync--文件和目录排除列表 rsync是一个十分有用,而且十分流行的linux工具.它用于备份和恢复文件,也用于对比和同步文件.我们已经在前面的文章讲述了如何在Linux下使用rsync,而今天我们将增加一些更为有用的rsync使用技巧. 排除文件和目录列表 有时候,当我们做大量同步的时候,我们可能想要从同步的文件和目录中排除一个文件和目录的列表.一般来说,像设备文件和某些系统文件,或者像临时文件或者缓存文件这类占据不必要磁盘空间的文件是不合适同步的,这类文件是我们需要排除

rsync+inotify如何实现文件的实时同步

环境描述:现有两台服务器,要实现mp3文件的实时同步.可以使用rsync来做同步,但不能实现实时,为了实现实时同步,我们使用inotify来监控需要同步的目录发生的改变,inotify只是内核中的一个监控文件变化的模块,提供了监控文件变化的API,而要连接这个API,需要安装inotify-tools工具.可以实现文件的新增,删除,修改,改变属性等,功能很强大.现在需要一台服务器做为内容发布端,来把改变的文件,通过rsync实时的同步到内容服务器. =======================

vmware虚拟机中linux与windows主机共享目录的文件不同步

问题描述 vmware虚拟机中linux与windows主机共享目录的文件不同步 rt,我虚拟机中装了一个 ubuntu12.04,见了共享目录,然后也看到共享的文件了,但是,我再windows下改了文件内容以后,去虚拟机打开,发现内容还是原来的,或者就直接出错,最后一部分丢了,哪位大神给讲一下这是什么问题,有什么好的解决办法可以让文件及时同步没,或者有没别的虚拟机可以搞定这个,谢谢谢谢谢谢谢谢谢...... 解决方案 在虚拟机上安装sambe服务器,"sudo apt-get install

Linux中在当前目录下解压rpm文件?

Linux中在当前目录下解压rpm文件? cat kernel-ntfs-2.4.20-8.i686.rpm | rpm2cpio | pax -r 示例如下: [root@localhost 6-18]# cat kernel-ntfs-2.4.20-8.i686.rpm | rpm2cpio | pax -r[root@localhost 6-18]# ll总用量 44-rw-r--r--. 1 root root 40174 6月&http://www.aliyun.com/zixun/a

Linux中使用split来分割合并文件

Linux中使用split来分割合并文件 我们使用split命令来完成: 用法:split [选项]... [输入 [前缀]]将输入内容拆分为固定大小的分片并输出到"前缀aa"."前缀ab",...:默认以 1000 行为拆分单位,默认前缀为"x".如果不指定文件,或者文件为"-",则从标准输入读取数据. 长选项必须使用的参数对于短选项时也是必需使用的.&http://www.aliyun.com/zixun/aggr

linux下两台服务器文件实时同步方案设计和实现

linux下两台服务器文件实时同步方案设计和实现 假设有如下需求: 假设两个服务器: 192.168.0.1 源服务器  有目录 /opt/test/ 192.168.0.2 目标服务器  有目录 /opt/bak/test/ 实现的目的就是保持这两个服务器某个文件目录保持实时同步 实现方式: 通过rsync+inotify-tools结合来实现 需要安装软件: 1.  rsync 同步软件    在 源服务器 和 目标服务器 都需要安装      源服务器: 是rsync客户端,不需要配置  

通过rsync+inotify实现数据的实时备份配置_Linux

一.rsync的优点与不足  与传统的cp.tar备份方式相比,rsync具有安全性高.备份迅速.支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等. 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的.而

Linux中的rsync简单应用及rsync+inotify实时应用

本文系统Centos6.0 Server:(Centos)  192.168.182.130 Client:(lv2)     192.168.182.129 rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了--remote sync. 它的特性如下: 可以镜像保存整个目录树和文件系统. 可以很容易做到保持原来文件的权限.时间.软硬链接等等. 无须特殊权限即可安装. 快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件.rsync 在传输数据的