一、Rsync简介

二、Rsync优点与不足

三、Inotify 简介

四、Rsync+Inotify组合实验案例


一、Rsync简介

  Rsync(remote synchronize)是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件。Rsync使用所谓的“Rsync算法”来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。

二、Rsync优点与不足

优点:

  • 快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。

  • 安全:rsync 允许通过 ssh 协议来加密传输数据。

  • 更少的带宽:rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。

  • 特权:安装和执行 rsync 无需特别的权限

缺点:

  • 由于 rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输,所以不适宜传输大数据

  • Rsync不能实时的去监测文件系统中添加、删除、修改等操作,无法及时的同步数据。


三、Inotify 简介

     Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。

四、Rsync+Inotify组合实验案例

  • Web    IP:   172.16.10.1

  • Mysql  IP:   172.16.10.2

  • Backup IP:   172.16.10.3


构建企业实时备份数据服务器(Rsync+inotify)_服务器


Backup服务器配置

1、安装部署Rsync服务器  

1
2
3
4
[root@localhost ~]# yum install rsync -y
[root@localhost ~]# rpm -qa | grep rsync
rsync-3.0.6-9.el6.x86_64
[root@localhost ~]#

2、创建rsync的主配置文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
[root@localhost ~]# vim /etc/rsyncd.conf
uid = nobody
gid = nobody
user chroot = no
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsyncd.lock
log file = /var/log/rsyncd.log
[web]
path=/backup/web
ignore errors
read only = no
list = no
hosts allow = 172.16.10.0/255.255.0.0
auth users = test
secrets file = /etc/rsyncd.password
[mysql]
path=/backup/mysql
ignore errors
read only = no
list = no
hosts allow = 172.16.10.0/255.255.0.0
auth users = test
secrets file = /etc/rsyncd.password

注释:

第1-2行:指定备份的用户和组,nobody为任何用户

   第3行:  此处传输文件时无需chroot到path参数所指定的目录下

   第4行:  最大连接数

   第5行:  覆盖客户指定的IP超时时间,也就是说rsync服务器不会永远等待一个崩溃的客户端。

   第6-8行:指定pid,lock,log的文件

   第9行:  指定认证模块名称,注意此模块是对外公布的模块

   第10行: 指定备份的路径

   第11行: 可以忽略一些无关的IO错误

   第12行: 允许可读可写

   第13行: 不允许列清单

   第14行: 只允许172.16.10.0网段进行同步,拒绝其它IP

   第15行: 认证的用户名

   第16行: 指定密码文件的存放路径


3、创建备份目录并设置目录的权限并启动rsync服务  

1
2
3
4
5
6
7
8
9
10
[root@localhost ~]# cd /
[root@localhost /]# mkdir  -pv /backup/web
[root@localhost /]# mkdir  -pv /backup/mysql
[root@localhost /]# chmod -R 777/backup/
[root@localhost /]# echo "test:test"> /etc/rsyncd.password
[root@localhost /]# chmod 600/etc/rsyncd.password
[root@localhost ~]#rsync --daemon --config=/etc/rsyncd.conf #启动服务
[root@localhost ~]# netstat -anpt | grep rsync  #rsync监听873端口
tcp        000.0.0.0:8730.0.0.0:*                   LISTEN      1306/rsync
[root@localhost ~]#


Web服务器与Mysql服务器配置

1、创建认证文件并设置权限 (web与mysql)

1
2
[root@localhost ~]# echo "test"> /etc/rsyncd.password
[root@localhost ~]# chmod 600/etc/rsyncd.password


2、服务器进行服务测试(web服务配置成功)

1
2
3
4
5
6
[root@localhost ~]# rsync -avp /etc/fstab test@172.16.10.3::web  --password-file=/etc/rsyncd.password
sending incremental file list
fstab
sent 848bytes  received 27bytes  1750.00bytes/sec
total size is779speedup is0.89
[root@localhost ~]#

此时rsync已经配置成功但是不能监控文件的变化此时就需要安装inotify

  由于inotify特性需要Linux内核的支持,在安装inotify-tools前要先确认Linux系统内核是否达到了2.6.13以上,如果Linux内核低于2.6.13版本,就需要重新编译内核加入inotify的支持

3、判断内核是否支持inotify:(web与mysql)

1
2
[root@localhost ~]# uname -r
2.6.32-358.el6.x86_64

4、检查系统是否支持inotify(Web与Mysql)

1
2
3
4
5
6
[root@localhost ~]# ll /proc/sys/fs/inotify/
total 0
-rw-r--r-- 1root root 0Sep  110:02max_queued_events
-rw-r--r-- 1root root 0Sep  110:02max_user_instances
-rw-r--r-- 1root root 0Sep  110:02max_user_watches
[root@localhost ~]#

果有以上3个文件说明系统默认是支持inotfiy功能的。

5、安装inotfiy-tools工具(Web与Mysql)

1
2
3
4
5
[root@localhost ~]# wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
[root@localhost ~]#tar xf inotify-tools-3.14.tar.gz
[root@localhost ~]# cd inotify-tools-3.14
[root@localhost inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify
[root@localhost inotify-tools-3.14]# make && make install

6、创建rsync脚本(web服务器)

1
2
3
4
5
6
7
8
9
10
11
12
[root@localhost ~]# vim /etc/rsync.sh
#!/bin/bash
host=172.16.10.3
src=/usr/local/httpd/apache/htdocs
des=web
user=test
/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M'--format '%T %w%f%e'-e modify,delete,create,attrib $src \
| whileread files
do
/usr/bin/rsync -vzrtopg --delete--progress --password-file=/etc/rsyncd.password $src $user@$host::$des
echo "${files} was rsynced">>/tmp/rsync.log 2>&1
done

创建rsync脚本(Mysql服务器)

1
2
3
4
5
6
7
8
9
10
11
12
[root@localhost ~]# vim /etc/rsync.sh
#!/bin/bash
host=172.16.10.3
src=/data
des=mysql
user=test
/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M'--format '%T %w%f%e'-e modify,delete,create,attrib $src \
| whileread files
do
/usr/bin/rsync -vzrtopg --delete--progress --password-file=/etc/rsyncd.password $src $user@$host::$des
echo "${files} was rsynced">>/tmp/rsync.log 2>&1
done

注释:

    --timefmt:指定时间的输出格式。
    --format:指定变化文件的详细信息。


7、设置脚本权限(Web与Mysql)

1
[root@localhost inotify-tools-3.14]# chmod 764/etc/rsync.sh

8、Web服务器测试

1
2
3
4
5
6
7
[root@localhost inotify-tools-3.14]# bash -x  /etc/rsync.sh
+ host=172.16.10.3
+ src=/usr/local/httpd/apache/htdocs
+ des=web
+ user=test
+ read files
+ /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M'--format '%T %w%f%e'-e modify,delete,create,attrib /usr/local/httpd/apache/htdocs

 此时脚本处于监控状态:

  • Web服务器创建文件检查是否能及时同步

1
2
[root@localhost ~]# cd /usr/local/httpd/apache/htdocs/
[root@localhost htdocs]# touch abc
  • 查看脚本状态:

构建企业实时备份数据服务器(Rsync+inotify)_加密_02

在Mysql服务器上测试同理,此处省略。。

9、让脚本开机时自动启动(web与mysql)

1
[root@localhost inotify-tools-3.14]# echo "/etc/rsync.sh ">> /etc/rc.local

至此整个实验过程告一段落。在此实验中遇到的问题,总结如下:


同步时遇到的问题:

rsync: failed to connect to 172.16.10.2: Connection refused (111)

rsync error: error in socket IO (code 10) at clientserver.c(124) [sender=3.0.6]

故障原因:

   服务没有启动

解决办法:

1
rsync --daemon --config=/etc/rsyncd.conf