Rsync+inotify Inotify是一个通知接口，用来监控文件系统的各种变化，如果文件存取，删除，移动。可以非常方便地实现文件异动告警，增量备份，并针对目录或文件的变化及时作出响应。rsync+inotify可以实触发式实时同步增量备份
案例: 实现web上传视频文件，写入NFS共享存储，然后将NFS存储内容实时复制至Backup服务器
环境准备
角色 外网IP(NAT) 内网IP(LAN) 安装工具 Rsync-server eth0:10.0.0.41 eth1:172.16.1.41 rsync-server nfs-server eth0:10.0.0.31 eth1:172.16.1.31 rsync+inotify web01 eth0:10.0.0.7 eth1:172.16.1.7 nginx+php Rsync-Server操作步骤如下:
1.安装rsync
[root@backup-41 ~]# yum install -y rsyncd 2.配置rsync
[root@backup-41 ~]# vim /etc/rsyncd.conf uid = rsync gid = rsync port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.password log file = /var/log/rsyncd.log ##################################### [backup] path = /backup
[data] path = /data
准备密码文件以及虚拟用户对应的虚拟密码 [root@backup-41 ~]# cat /etc/rsync.password rsync_backup:123456 [root@backup-41 ~]# ll /etc/rsync.password -rw------- 1 root root 20 Jul 23 11:42 /etc/rsync.password
创建backup data仓库目录 [root@backup-41 ~]# mkdir /backup [root@backup-41 ~]# chown -R rsync.rsync /backup/
[root@backup-41 ~]# mkdir /data [root@backup-41 ~]# chown -R rsync.rsync /data/ 3.启动rsync
[root@backup-41 ~]# systemctl restart rsyncd
[root@backup-41 ~]# netstat -lntp|grep rsync
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 1372/rsync
4.nfs客户端验证rsync是否正常使用
[root@nfs01 ~]# rsync -avz /root/oldboy rsync_backup@172.16.1.41::backup Password: sending incremental file list oldboy
[root@nfs01 ~]# rsync -avz /root/oldboy rsync_backup@172.16.1.41::data Password: sending incremental file list oldboy NFS-Server操作步骤如下:
1.安装nfs
[root@nfs01 ~]# yum install nfs-utils rpcbind -y 2.配置nfs
[root@nfs01 ~]# cat /etc/exports /data/ 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
[root@nfs01 ~]# id www uid=666(www) gid=666(www) groups=666(www)
[root@nfs01 ~]# mkdir /data [root@nfs01 ~]# mkdir /data/www [root@nfs01 ~]# chown -R www.www /data [root@nfs01 ~]# ll -d /data/ drwxr-xr-x 5 www www 98 Jul 26 09:29 /data/ [root@nfs01 /]# ll -d /data/www/ drwxr-xr-x 2 root root 6 Jul 27 10:40 /data/www/ 3.启动nfs
[root@nfs01 ~]# systemctl restart rpcbind [root@nfs01 ~]# systemctl restart nfs-server 4.安装inotify
[root@nfs01 ~]# yum install inotify-tools rsync -y 5.配置inotify
在linux内核中，默认的inotify机制提供了三个调控参数： [root@nfs01 ~]# ls /proc/sys/fs/inotify/ max_queued_events #设置监控服务实例可以监控的事件个数 max_user_instances #设置用户可以开启的服务进程数 max_user_watches #可以监控的最大文件数
参数值修改 cat >> /etc/sysctl.conf <<EOF fs.inotify.max_queued_events=99999999 fs.inotify.max_user_watches=99999999 fs.inotify.max_user_instances=65535 EOF
使修改的参数生效 [root@nfs01 ~]# sysctl -p
inotify工具中常用于实时同步的命令是inotifywait(监控文件或目录的变化),如下列出常用参数 -m 表示持续监控 -r 递归形式监视目录 -q 简化输出信息 -e 指定要监视的事件(create,move,delete,modify) --timefmt 自定义时间格式,常用参数'%y/%m/%d %H:%M' --format 自定义输出格式信息, 常用的格式符如下 %e: 使用了什么事件 %T: 时间 %w：显示被监控文件的文件名； %f：如果发生某事件的对象是目录，则显示被监控 6.利用inotifywait实现数据实时监控
[root@nfs01 ~]# inotifywait -mrq --format '%e %T %w%f' --timefmt '%y/%m/%d %H:%M' -e close_write,modify,delete,create,move /backup/ 7.使用inotifywait配合rsync实现实时同步脚本
[root@nfs01 ~]# vim /server/scripts/inotify_rsync.sh #!/bin/bash export RSYNC_PASSWORD=123456 SRC=/data/ DST=rsync_backup@172.16.1.41::backup/
inotifywait -mrq -e modify,delete,create,attrib ${SRC} | while read file do rsync -az --delete $SRC $DST done [root@nfs01 ~]# chmod +x /server/scripts/inotify_rsync.sh web01操作步骤如下:
1.安装nginx+php以及nfs相关工具
[root@web01 ~]# yum install nginx php php-fpm php-pdo nfs-utils rpcbind -y 2.配置nfs-client
[root@web01 ~]# mkdir /data/www [root@web01 ~]# mount -t nfs 172.16.1.31:/data/www /data/www/ #加入开机自动挂载该nfs设备 [root@web01 ~]# tail -n1 /etc/fstab 172.16.1.31:/data/www /data/www nfs defaults 0 0
[root@web01 ~]# umount /data/www/ [root@web01 ~]# mount -a [root@web01 ~]# df -h Filesystem Size Used Avail Use% Mounted on 172.16.1.31:/data/www 50G 1.6G 49G 4% /data/www 3.配置nginx
[root@web01 ~]# vim /etc/nginx/nginx.conf user www; worker_processes 1; events { worker_connections 1024; } http { include mime.types; default_type application/octet-stream; sendfile on; keepalive_timeout 65; server { listen 80; root /data/www; index index.php index.html index.htm; autoindex on; location ~ .php$ { fastcgi_pass 127.0.0.1:9000; fastcgi_index index.php; fastcgi_param SCRIPT_FILENAME /data/www$fastcgi_script_name; include fastcgi_params; } } } #注意：nginx修改运行用户需要调整对应的临时目录权限 [root@web01 ~]# chown -R www.www /var/lib/nginx/ 4.修改php程序运行的属主和属组，统一用户id
[root@web01 ~]# sed -i 's#user = apache#user = www#g' /etc/php-fpm.d/www.conf [root@web01 ~]# sed -i 's#group = apache#group = www#g' /etc/php-fpm.d/www.conf [root@web01 ~]# egrep "^user|^group" /etc/php-fpm.d/www.conf user = www group = www 5.启动nginx+php
[root@web01 ~]# systemctl start nginx php-fpm [root@web01 ~]# netstat -lntp|egrep "nginx|php" tcp 0 0 127.0.0.1:9000 0.0.0.0:* LISTEN 1661/php-fpm: maste tcp 0 0 0.0.0.0:80 0.0.0.0:* LISTEN 1670/nginx: master 6.上传对应代码至网站目录，然后进行附件提交测试
backup补充部分:与nfs-server保持高度一致
1.安装nfs [root@backup-41 ~]# yum install nfs-utils -y 2.配置nfs [root@backup-41 ~]# cat /etc/exports /data/ 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666) 3.启动nfs [root@backup-41 ~]# systemctl enable nfs-server [root@backup-41 ~]# systemctl start nfs-server 架构补充部分：进程至后台
[root@nfs01 ~]# yum install screen -y [root@nfs01 ~]# screen -S Socket_name #建议指定一个名称 ####进入screen会话----> 1.强制关闭终端 2.ctrl+a+d 退出scrren，但不会结束当前在screen运行的程序 注意： 使用exit会结束screen整个会话 [root@nfs01 ~]# screen -r [pid|socket_name] #如果指定名称，如果没有指定名称需要使用pid
1.前端页面上传文件->web服务器 2.web存放的代码和附件目录是挂载至nfs存储上 3.web->nfs->backup nfs故障 在web上卸载nfs的挂载信息 重新挂载至backup nfs-server：模拟nfs故障
[root@nfs01 ~]# systemctl stop nfs-server 1.web01处理操作，卸载当前已down的nfs-server，然后重新挂载至backup服务器，解决。 [root@web01 ~]# umount -lf /data/www && mount -t nfs 172.16.1.41:/data/www /data/www/ [root@web01 ~]# df -h Filesystem Size Used Avail Use% Mounted on 172.16.1.41:/data/www 50G 2.2G 48G 5% /data/www
注意：此时还是无法正常访问web，因为rsync使用的rsync用户管理目录 [root@backup-41 ~]# cat /etc/rsyncd.conf #变更如下配置 uid = www gid = www [root@backup-41 ~]# systemctl restart rsyncd [root@backup-41 ~]# chown -R www.www /data/ [root@backup-41 ~]# chown -R www.www /backup/ nfs-server：nfs故障后恢复
#1.修复nfs-server后，手动拉取backup下的所有数据，保持一致。 rsync -avz --delete rsync_backup@172.16.1.41::data /data/
#2.在web上卸载，然后重新挂载至nfs存储 [root@web01 ~]# umount /data/www/ && mount -t nfs 172.16.1.31:/data/www /data/www sersync实时同步 sersync是国人基于rsync+inotify-tools开发的工具，不仅保留了优点同时还强化了实时监控，文件过滤，简化配置等功能，帮助用户提高运行效率，节省时间和网络资源。
sersync优点
1）支持通过配置文件管理 2）真正的守护进程socket（不需要写脚本）。 3）可以对失败文件定时重传（定时任务功能）。 4）第三方的HTTP接口（例如更新cdn缓存）。 5）默认多线程rsync同步。
sersync项目地址
角色 外网IP(NAT) 内网IP(LAN) 安装工具 nfs-server eth0:10.0.0.31 eth1:172.16.1.31 rsync+inotify+sersync backup eth0:10.0.0.41 eth1:172.16.1.41 rsync-server Backup操作步骤如下
1.安装rsync
[root@backup-41 ~]# yum install rsync -y 2.配置rsync
[root@backup-41 ~]# cat /etc/rsyncd.conf uid = www gid = www port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.password log file = /var/log/rsyncd.log ##################################### [backup] path = /backup
[data] path = /data
建立对应密码文件
[root@backup-41 ~]# echo "rsync_backup:123456" > /etc/rsync.password 4.创建对应目录并授权
[root@backup-41 ~]# groupadd -g 666 www [root@backup-41 ~]# useradd -u 666 -g www www [root@backup-41 ~]# id www uid=666(www) gid=666(www) groups=666(www) [root@backup-41 ~]# mkdir -p /{backup,data} [root@backup-41 ~]# chown -R www.www /{backup,data} 5.启动rsync
[root@backup-41 ~]# systemctl enable rsyncd
[root@backup-41 ~]# systemctl start rsyncd
[root@backup-41 ~]# netstat -lntp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 1680/rsync
Nfs-Server操作步骤如下
1.安装sersync
sersync需要依赖inotify和rsync，所以需要安装对应软件
[root@nfs01 ~]# yum install rsync inotify -y
安装sersync
[root@nfs01 ~]# mkdir /server/tools -p [root@nfs01 ~]# cd /server/tools/ [root@nfs01 tools]# wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz [root@nfs01 tools]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz [root@nfs01 tools]# mv GNU-Linux-x86/ /usr/local/sersync [root@nfs01 tools]# cd /usr/local/sersync/ [root@nfs01 sersync]# cp confxml.xml confxml.bak [root@nfs01 sersync]# vim confxml.xml 5 <fileSystem xfs="true"/> <!-- 文件系统 --> 6 <filter start="false"> <!-- 排除不想同步的文件--> 7 <exclude expression="(.).svn"></exclude> 8 <exclude expression="(.).gz"></exclude> 9 <exclude expression="^info/"></exclude> 10 <exclude expression="^static/"></exclude> 11 </filter>
12 <inotify> <!-- 监控的事件类型 --> 13 <delete start="true"/> 14 <createFolder start="true"/> 15 <createFile start="true"/> 16 <closeWrite start="true"/> 17 <moveFrom start="true"/> 18 <moveTo start="true"/> 19 <attrib start="false"/> 20 <modify start="false"/> 21 </inotify>
23 <sersync> 24 <localpath watch="/data/www"> <!-- 监控的目录 --> 25 <remote ip="172.16.1.41" name="data"/> <!-- backup的IP以及模块 --> 26 <!--<remote ip="192.168.8.39" name="tongbu"/>--> 27 <!--<remote ip="192.168.8.40" name="tongbu"/>--> 28 </localpath>
29 <rsync> <!-- rsync的选项 --> 30 <commonParams params="-az"/> 31 <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/> 32 <userDefinedPort start="false" port="874"/><!-- port=874 --> 33 <timeout start="true" time="100"/><!-- timeout=100 --> 34 <ssh start="false"/> 35 </rsync>
<!-- 每60分钟执行一次同步-->
36 <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def ault every 60mins execute once--> 3.启动sersync服务守护进程
查看启动参数
[root@nfs01 sersync]# ./sersync2 -h set the system param execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events parse the command param
参数-d:启用守护进程模式 参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍 c参数-n: 指定开启守护线程的数量，默认为10个 参数-o:指定配置文件，默认使用confxml.xml文件 参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块 参数-m:单独启用其他模块，使用 -m socket 开启socket模块 参数-m:单独启用其他模块，使用 -m http 开启http模块 不加-m参数，则默认执行同步程序
启动配置，可以使用多套配置 [root@nfs01 ~]# /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
