架构-- rsync

一 、主机名字与网卡修改脚本
[root@nfs ~]# cat zhuji.sh 
#!/bin/bash
hostnamectl set-hostname $1
sed -i "s#41#$2#g" /etc/sysconfig/network-scripts/ifcfg-eth0
sed -i "s#41#$2#g" /etc/sysconfig/network-scripts/ifcfg-eth1
systemctl restart network
二 、rsync (做备份服务器,相当于就是远程备份)
本地备份:cp
远程备份:scp (scp -r 是复制目录) rsync

rsync 简介

rsync英文称为remote synchronizetion,从软件的名称就可以看出来,rsync具有可使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能,这个功能类似于ssh带的scp命令,但是又优于scp命令的功能,scp每次都是全量拷贝,而rsync可以增量拷贝。当然,rsync还可以在本地主机的不同分区或目录之间全量及增量的复制数据,这又类似cp命令。但是同样也优于cp命令,cp每次都是全量拷贝,而rsync可以增量拷贝。

rsync官方地址:https://rsync.samba.org/

rsync监听端口:873

rsync运行模式:C/S 客户端client/server 服务端

rsync简称叫做远程同步,可以实现不同主机之间的数据同步,还支持全量和增量

rsync 特性

 可以通过socket(进程方式)传输文件和数据(服务端和客户端)*****

支持匿名的活认证(无需系统用户)的进程模式传输,可以实现方便安全的进行数据备份和镜像

实例

scp -r /etc root@172.16.1.41: /tmp scp全量推送
-r 是递归推送

rsync -avz /var root@172.16.1.41: /tmp

rsync 参数

                -a           #归档模式传输, 等于-tropgDl    -t -r -o -p -g -D -l
-v #详细模式输出, 打印速率, 文件数量等
-z #传输时进行压缩以提高效率
-n #会提示拷贝的内容,但是不会真正的拷贝
–exclude-from=file #排除参数
--bwlimit=100 #限速传输
--delete # 排除
--include #包含
-P #显示传输的进度信息
-R #相对路径
--backup #保留
--partial #断点续传
--backup --suffix=".bak" #定制后缀名
--backup --backup-dir=/a/bak#定制文件目录

[root@backup ~]# rsync -avzP --bwlimit=10 /tmp/egon.txt rsync_mm@192.168.12.41::backup

rsync应用场景

全量备份:将数据完整的复制一份保留下了

增量备份: 备份上一此备份后新增的数据

差异备份:就是与上上次的差异数据

push 推:
从客户端将数据推送至服务端

pull 拉:
客户端将数据拉取到本地

格式区别:
rsync -avz rewriteip.sh rsync_mm@172.16.1.41::backup 推
本地文件路径在前,目标ip在后
rsync -avz rsync_mm@172.16.1.41::backup /tmp/ 拉
目标ip在前,目标文件路径在后

传输方式

# push 推:

从客户端将数据推送至服务端

# pull 拉:

客户端将数据拉取到本地

格式区别:
rsync -avz a.sh rsync_mm@172.16.1.41::backup 推
本地文件路径在前,目标ip在后
rsync -avz rsync_mm@172.16.1.41::backup /tmp/ 拉
目标ip在前,目标文件路径在后
#注:
1.推的问题:当客户端服务器数量过多,容易造成数据推送缓慢
2.拉的问题:当客户端服务器数量过多,容易造成服务端压力过大

传输模式

1.本地方式(类似于cp,不支持推送和拉取,只是单纯的复制)
#语法:
rsync [OPTION]... SRC [SRC]... DEST
命令 选项 源文件 目标地址

#语法实例
[root@web01 ~]# rsync -avz rewriteip.sh /tmp/

#命令拆分
rsync #命令
-avz #选项
rewriteip.sh #源文件
/tmp/ #目标位置

#类似于cp,但是cp是全量复制并且会修改文件属性,rsync是增量复制,会保证文件属性不表
2.远程方式(类似于scp,又不同于scp)
## 例2:推送1.txt到目标ip
rsync -avz /root/2.txt 10.0.0.7:/tmp (默认当前root用户)


PULL 拉取数据的命令

#语法:
rsync [OPTION]... [USER@]HOST:SRC [DEST]

#实例:
[root@web01 ~]# rsync -avz root@172.16.1.41:/tmp/a.sh /opt/

#语法拆分
rsync #命令
-avz #选项
root #远端服务器的系统用户
@ #分隔符
172.16.1.41 #远程主机的地址
: #分隔符,代表主机下的....
/tmp/a.sh #远程主机的目录及文件
/opt/ #当前主机的当前目录

#注:拉取过程中,如果拉取加根/(/tmp/aa/),目录及文件同时拉取

push 推送方式

#实例
[root@web01 ~]# rsync -avz /opt/s.sh root@172.16.1.41:/tmp

#语法拆分
rsync #命令
-avz #选项
/opt/s.sh #当前服务器的本地文件
root #远端服务器的系统用户
@ #分隔符
172.16.1.41 #远端主机的IP地址
: #分隔符,代表主机下的....
/tmp #远程主机的目录

#注:推送过程中,如果推送内容中加根/,目录中的文件则推送
#注:推送过程中,如果推送内容中不加根/,目录本身以及文件都会推送
3.守护进程方式(客户端和服务端)
#为什么用守护进程
1.rsync传输时,使用的是系统用户和系统用户的密码,非常的不安全
2.使用普通用又会出现权限问题
守护进程模式实践
环境准备

主机

IP

主机角色

安装软件

web01

10.10.0.7

rsync客户端

rsync

backup

10.10.0.41

rsync服务端

rsync

编辑服务端配置文件 – backup

rsync文件详解

[root@backup ~]# vim /etc/rsyncd.conf
#配置文件详解
uid = rsync #启动服务的用户id
gid = rsync #启动服务用户的组id
port = 873 #服务默认监听端口
fake super = yes #无须使用root用户启动
use chroot = no #安全机制
max connections = 200 #最大连接数
timeout = 200 #超时时间
ignore errors #忽略错误
read only = false #只读权限
list = false (true) #查看模块列表 (开启列表)
auth users = rsync_mm #定义虚拟用户(rsync传输过程使用的用户)
secrets file = /etc/rsync.passwd #定义虚拟用户的密码
log file = /var/log/rsyncd.log #日志文件
==========================================================================
[backup] #模块
comment = welcome to oldboyedu backup! #模块的备注
path = /backup #服务器真实的路径

细部配置

[root@backup]# cat /etc/rsyncd.conf 
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 200
ignore errors
read only = false
list = false
auth users = rsync_mm
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
[backup]
comment = welcome to oldboyedu backup!
path = /backup/

编辑服务端用户文件 – backup
1.创建用户
[root@backup ~]# useradd rsync -s /sbin/nologin -M

2.创建密码文件(一定不能有空格)
[root@backup ~]# echo "rsync_mm:123" > /etc/rsync.passwd
[root@backup ~]# chmod 600 /etc/rsync.passwd

3.创建备份目录
[root@backup ~]# mkdir /backup

4.授权备份目录
[root@backup ~]# chown -R rsync.rsync /backup/

5、启动服务
[root@backup ~]# systemctl start rsyncd
[root@backup ~]# rysnc --daemon #这个是守护进程模式
## 当前登录的用户是谁,登录rsync进程的就是谁
[root@backup ~] #rsync -avz a.tt rsync://rsync_mm@172.16.1.41:879/backup
#端口是979端口
#验证启动
[root@backup ~]# netstat -lntp | grep 873
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 26370/rsync
tcp6 0 0 :::873 :::* LISTEN 26370/rsync
[root@backup ~]# ps -ef | grep rsync
root 26370 1 0 11:08 ? 00:00:00 /usr/bin/rsync --daemon --no-detach
root 26408 25098 0 11:09 pts/1 00:00:00 grep --color=auto rsync

守护进程传输模式语法
#实例:
[root@web01 ~]# rsync -avz p.sh rsync_mm@172.16.1.41::backup
#backup是模板名(中括号里面的名字)

#语法拆分
rsync #命令
-avz #选项
p.sh #当前服务器的文件
rsync_backup #rsync服务端配置的虚拟用户
@ #分隔符
172.16.1.41 #远程主机IP地址
::backup #模块名

#推送过程中服务端目录必须是服务端配置的启动用户权限

###拉取语法

#示例:
[root@web01 ~]# rsync -avz rsync_mm@172.16.1.41::backup /tmp/

#语法拆分:
rsync #命令
-avz #选项
rsync_backup #服务端定义的虚拟用户
@ #分隔符
172.16.1.41 #远程主机IP地址
::backup #模块名字
/tmp/ #当前主机的目录

#拉取过程中服务端目录不用设置rsync用户权限

客户端推拉数据方法 — 免密推拉
#指定密码文件的方式

1.创建密码文件
[root@web01 ~]# echo "123" > /etc/rsync.passwd
[root@web01 ~]# chmod 600 /etc/rsync.passwd

2.使用参数传输
[root@web01 ~]# rsync -avz rewp.sh rsync_mm@172.16.1.41::backup --password-file=/etc/rsync.passwd
sending incremental file list
rewriteip.sh

sent 207 bytes received 43 bytes 166.67 bytes/sec
total size is 194 speedup is 0.78

3.环境变量设置密码:
[root@web01 ~]# export RSYNC_PASSWORD=123
[root@web01 ~]# rsync -avz reip.sh rsync_mm@172.16.1.41::backup
sending incremental file list

sent 55 bytes received 20 bytes 50.00 bytes/sec
total size is 194 speedup is 2.59

环境变量永久修改 — /etc/profile.d/*.sh
[root@web01 /]# cat /etc/profile.d/a.sh

export RSYNC_PASSWORD=12
rsync 常见的报错列表
1.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backu@172.16.1.41::backup
Password:

## @ERROR: auth failed on module backup -- 认证失败

rsync error: error starting client-server protocol (code 5) at main.c(1649) [sender=3.1.2]

#原因:
1 虚拟用户的用户名或者密码错误
2 服务端密码文件权限不为600

2.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.passwd

## ERROR: password file must not be other-accessible --权限不足

rsync error: syntax or usage error (code 1) at authenticate.c(196) [sender=3.1.2]

#原因:客户端密码文件权限不是600

3.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backu

@ERROR: Unknown module 'backu' -- 模块名字错误

rsync error: error starting client-server protocol (code 5) at main.c(1649) [sender=3.1.2]

#原因:模块名字错误

4.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::/backup

ERROR: The remote path must start with a module name not a / --模板前面不要加/

rsync error: error starting client-server protocol (code 5) at main.c(1649) [sender=3.1.2]

#原因:双冒号后面跟的是模块名字,而不是目录名字不要加/

5.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backup

rsync: failed to connect to 172.16.1.41 (172.16.1.41): No route to host (113)

rsync error: error in socket IO (code 10) at clientserver.c(125) [sender=3.1.2]

#原因:防火墙开启,没有配置防火墙规则

[root@backup ~]# firewall-cmd --add-port=873/tcp --配置防火墙规则

firewall-cmd --list-all --查看防火墙列表

success

6.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backup
Password:

sending incremental file list
rewriteip.sh
rsync: mkstemp ".rewriteip.sh.vx4Cry" (in backup) failed: Permission denied (13)

sent 207 bytes received 128 bytes 44.67 bytes/sec ----selinux未关闭
total size is 194 speedup is 0.58
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1179) [sender=3.1.2]

#原因:selinux没有关闭

7.报错内容:
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backup

sending incremental file list
rsync: delete of stat xattr failed for "rewriteip.sh" (in backup): Permission denied (13)

sent 55 bytes received 114 bytes 338.00 bytes/sec ----服务端备份目录权限不是rsync
total size is 194 speedup is 1.15
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1179) [sender=3.1.2]

#原因:服务端备份目录权限不是rsync

8.报错内容
[root@web01 ~]# rsync -avz rewriteip.sh rsync_backup@172.16.1.41::backup

rsync: failed to connect to 172.16.1.41 (172.16.1.41): Connection refused (111)
rsync error: error in socket IO (code 10) at clientserver.c(125) [sender=3.1.2]

#原因:服务端服务没有启动 ==>< systemctl start resyncd

9.报错内容
[root@web01 ~]# rsync -avz ip.sh rsync_backup@10.0.0.41::backup

sending incremental file list
rsync: read error: Connection reset by peer (104)
rsync error: error in socket IO (code 10) at io.c(785) [sender=3.1.2]

#原因:服务端配置错误,导致启动问题(vim/etc/rsyncd.conf) ==> 服务端 ><==backup主机配置文件错误