關(guān)于解決多臺服務(wù)器間的文件實時同步問題-魔扣目錄

最近要做一個相關(guān)的解決方案，在虛擬機(jī)測試沒有問題。給大家分享出來，有更好的解決方案，歡迎討論。

1.1 inotify相關(guān)介紹

1、rsync

與傳統(tǒng)的cp、tar備份方式相比，rsync具有安全性高、備份迅速、支持增量備份等優(yōu)點，通過rsync可以解決對實時性要求不高的數(shù)據(jù)備份需求，例如定期的備份文件服務(wù)器數(shù)據(jù)到遠(yuǎn)端服務(wù)器，對本地磁盤定期做數(shù)據(jù)鏡像等。

隨著應(yīng)用系統(tǒng)規(guī)模的不斷擴(kuò)大，對數(shù)據(jù)的安全性和可靠性也提出的更好的要求，rsync在高端業(yè)務(wù)系統(tǒng)中也逐漸暴露出了很多不足，首先，rsync同步數(shù)據(jù) 時，需要掃描所有文件后進(jìn)行比對，進(jìn)行差量傳輸。如果文件數(shù)量達(dá)到了百萬甚至千萬量級，掃描所有文件將是非常耗時的。而且正在發(fā)生變化的往往是其中很少的一部分，這是非常低效的方式。其次，rsync不能實時的去監(jiān)測、同步數(shù)據(jù)，雖然它可以通過linux守護(hù)進(jìn)程的方式進(jìn)行觸發(fā)同步，但是兩次觸發(fā)動作一定會有時間差，這樣就導(dǎo)致了服務(wù)端和客戶端數(shù)據(jù)可能出現(xiàn)不一致，無法在應(yīng)用故障時完全的恢復(fù)數(shù)據(jù)。基于以上原因，rsync+inotify組合出現(xiàn)了！

2、inotify

Inotify 是一種強(qiáng)大的、細(xì)粒度的、異步的文件系統(tǒng)事件監(jiān)控機(jī)制，linux內(nèi)核從2.6.13起，加入了Inotify支持，通過Inotify可以監(jiān)控文件系統(tǒng) 中添加、刪除，修改、移動等各種細(xì)微事件，利用這個內(nèi)核接口，第三方軟件就可以監(jiān)控文件系統(tǒng)下文件的各種變化情況，而inotify-tools就是這樣的一個第三方軟件。

在上面章節(jié)中，我們講到，rsync可以實現(xiàn)觸發(fā)式的文件同步，但是通過crontab守護(hù)進(jìn)程方式進(jìn)行觸發(fā)，同步的數(shù)據(jù)和實際數(shù)據(jù)會有差異，而inotify可以監(jiān)控文件系統(tǒng)的各種變化，當(dāng)文件有任何變動時，就觸發(fā)rsync同步，這樣剛好解決了同步數(shù)據(jù)的實時性問題。

1.2 rsync+inotify同步邏輯圖

1.3 環(huán)境部署

1、下載所需的安裝包：

先把兩個包放在/usr/src/下。

a、rsync下載路徑：http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz/

b、inotify下載路徑：http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz

2、第一臺服務(wù)器(192.168.188.90)配置(不分主次)：

a、安裝rsync:

[root@Nginx ~]# cd /usr/src/ [root@nginx src]# tar zxvf rsync-3.0.9.tar.gz [root@nginx src]# cd rsync-3.0.9 [root@nginx rsync-3.0.9]# ./configure --prefix=/usr/local/rsync [root@nginx rsync-3.0.9]# make [root@nginx rsync-3.0.9]# make install

b、創(chuàng)建密碼認(rèn)證文件：

[root@nginx rsync-3.0.9]# cd /usr/local/rsync/ [root@nginx rsync]# echo "rsync-pwd" >/usr/local/rsync/rsync1.passwd

c、給密碼文件賦予600權(quán)限：

[root@nginxrsync]#chmod600rsync1.passwd

d、安裝inotify:

[root@nginx rsync]# cd /usr/src/ [root@nginx src]# tar zxvf inotify-tools-3.14.tar.gz [root@nginx src]# cd inotify-tools-3.14 [root@nginx inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify [root@nginx inotify-tools-3.14]# make [root@nginx inotify-tools-3.14]# make install

e、創(chuàng)建監(jiān)控腳本：

#!/bin/bash host=192.168.188.89 src=/root/test/ des=web user=webuser /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src | while read files do /usr/bin/rsync -vzrtopg --delete --progress --password-file=/usr/local/rsync/rsync1.passwd $src $user@$host::$des echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 done

注意：host為第二臺服務(wù)器IP，src為要監(jiān)控的路徑，web是認(rèn)證模塊名稱，最后把監(jiān)控腳本命名為rsync1.sh放在要監(jiān)控的路徑下。此處應(yīng)是/root/test/

f、給監(jiān)控腳本賦予764權(quán)限：

[root@nginxtmp]#chmod764rsync1.sh

g、創(chuàng)建rsync配置文件：

uid = root gid = root use chroot = no max connections = 10 strict modes = yes pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log [web] path = /root/test/ comment = web file ignore errors read only = no write only = no hosts allow = 192.168.188.89 hosts deny = * list = false uid = root gid = root auth users = webuser secrets file = /usr/local/rsync/rsync1.passwd

該配置文件是用來接收另一臺服務(wù)器的文件。其中web是server服務(wù)端（90服務(wù)器）的認(rèn)證模塊名稱，需要與90服務(wù)器里的一致。把配置文件命名為rsync1.conf，放到/usr/local/rsync/目錄里

h、啟動該配置文件

[root@nginx-backuprsync]#/usr/local/rsync/bin/rsync--daemon--config=/usr/local/rsync/rsync1.conf

需要開機(jī)啟動的話：

[root@nginx-backuprsync]#echo"/usr/local/rsync/bin/rsync--daemon--config=/usr/local/rsync/rsync1.conf">>/etc/rc.local

3、第二臺服務(wù)器(192.168.188.89)配置(不分主次)：

a、安裝rsync:

[root@nginx ~]# cd /usr/src/ [root@nginx src]# tar zxvf rsync-3.0.9.tar.gz [root@nginx src]# cd rsync-3.0.9 [root@nginx rsync-3.0.9]# ./configure --prefix=/usr/local/rsync [root@nginx rsync-3.0.9]# make [root@nginx rsync-3.0.9]# make install

b、創(chuàng)建密碼認(rèn)證文件：

[root@nginx rsync-3.0.9]# cd /usr/local/rsync/ [root@nginx rsync]# echo "rsync-pwd" >/usr/local/rsync/rsync2.passwd

c、給密碼文件賦予600權(quán)限：

[root@nginxrsync]#chmod600rsync2.passwd

d、安裝inotify:

e、創(chuàng)建監(jiān)控腳本：

#!/bin/bash host=192.168.188.90 src=/root/test/ des=web user=webuser /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src | while read files do /usr/bin/rsync -vzrtopg --delete --progress --password-file=/usr/local/rsync/rsync2.passwd $src $user@$host::$des echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 done

注意：host為第二臺服務(wù)器IP，src為要監(jiān)控的路徑，web是認(rèn)證模塊名稱，最后把監(jiān)控腳本命名為rsync2.sh放在要監(jiān)控的路徑下。此處應(yīng)是/root/test/

f、給監(jiān)控腳本賦予764權(quán)限：

[root@nginxtmp]#chmod764rsync2.sh

g、創(chuàng)建rsync配置文件：

uid = root gid = root use chroot = no max connections = 10 strict modes = yes pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log [web] path = /root/test/ comment = web file ignore errors read only = no write only = no hosts allow = 192.168.188.90 hosts deny = * list = false uid = root gid = root auth users = webuser secrets file = /usr/local/rsync/rsync2.passwd

該配置文件是用來接收另一臺服務(wù)器的文件。其中web是server服務(wù)端（90服務(wù)器）的認(rèn)證模塊名稱，需要與90服務(wù)器里的一致。把配置文件命名為rsync2.conf，放到/usr/local/rsync/目錄里

h、啟動該配置文件

[root@nginx-backuprsync]#/usr/local/rsync/bin/rsync--daemon--config=/usr/local/rsync/rsync2.conf

需要開機(jī)啟動的話：

[root@nginx-backuprsync]#echo"/usr/local/rsync/bin/rsync--daemon--config=/usr/local/rsync/rsync2.conf">>/etc/rc.local

4、最后啟動兩臺服務(wù)器的監(jiān)控腳本：

a、在90服務(wù)器：

[root@nginxtmp]#sh/root/test/rsync1.sh&

需要開機(jī)啟動的話：

[root@nginxtmp]#echo"/root/test/rsync1.sh">>/etc/rc.local

b、在89服務(wù)器：

[root@nginxtmp]#sh/root/test/rsync2.sh&