Linux下rsync的用法

转载

mob60475705f1df 2021-09-14 10:10:00

文章标签 目标目录数据 swift 分隔符备份文件 文章分类 Java 后端开发

Rsync命令和cp命令很像，但是功能似乎更加复杂点，主要用来备份数据。看了网上一堆介绍的文章，感觉不是很通俗易懂。下面按照我的理解，做一些笔记：

同步方式

之前接触过一些同步软件，例如坚果云、百度云盘等等，他们对于同步方式都是有一些选择项的，下面列举一些同步方式

单向同步

每次执行任务时，源目录中新建和更新的文件将被复制到目标目录中；目标目录中对应源目录中已经删除的文件，将被删除。此方式只是单向地对文件进行从源目录到目标目录的操作。如果您手工对目标目录进行的任何文件操作，将被任务忽略。

双向同步

每次执行任务时，不管源目录还是目标目录中新建和更新的文件都会被复制到另外一个目录中；在任何一个目录中删除文件，另外一个目录也会删除对应的文件。当两个目录中文件的操作重叠时，任务会自动保留最新的操作。如果操作时间无法判断，更新和新建文件的操作会优于删除文件而被保留。此方式会对源目录进行文件操作。

镜像同步

每次执行任务时，任何在源目录中新建或在目标目录中删除或在两个目录中更新的文件，都会从源目录复制到目标目录。任何在源目录中删除或在目标目录中新建的文件都会从目标目录中删除。此方式始终保持目标目录中的文件和源目录中的文件一模一样，任何目标目录自身的文件变化将被去除。此方式会删除目标目录中多余的文件。

移动同步

每次执行任务时，源目录中的任何文件都会被移动到目标目录中去。目标目录中如果存在相同文件将被覆盖。移动后，源目录被清空。

更新同步

每次执行任务时，源目录中新建和更新的文件将被复制到目标目录中，目标目录中任务之前复制的所有文件将被删除，只保留最新的文件。

累加同步

每次执行任务时，源目录中新建和更新的文件将被复制到目标目录中，目标目录中的任何文件都不会被删除。目标目录中会保留所有在源目录中曾经出现过的文件且都是最后一个版本。

增量备份

每次执行任务时，任务发现源目录中有新建或更新的文件，则在目标目录中建立一个子目录来保存这些新文件。虽然保存的文件只反映了执行时源目录的一部分，但您可以利用软件中提供的文件恢复工具来恢复出执行时源目录完整的目录结构和所有文件。增量备份任务第一次执行时，会自动对源目录做一次完全备份，以便以后能完全恢复。

完全备份

每次执行任务时，任务会在目标目录中建立一个子目录来保存源目录中的所有文件。

除双向同步和镜像同步外，其它方式的任务在执行时，如果发现源目录中的文件没有发生变化，将不做任何处理，只会记录一个最后检查时间。双向同步和镜像同步如果碰到源目录和目标目录中的文件都没有变化的情况，也将只记录一个最后检查时间。

除双向同步和镜像同步外，其它方式的任务对于用户直接对目标目录进行新建、更新、删除的文件不做处理。也就是说，不是任务复制到目标目录而存在的文件，任务认为它不存在，不是被任务删除的文件，任务认为文件还在目标目录中存在。

除双向同步和移动同步外，其它方式的任务不会对源目录进行文件操作。

rsync是类unix系统下的数据镜像备份工具，从软件的命名上就可以看出来了——remote sync。rsync是Linux系统下的文件同步和数据传输工具，它采用“rsync”算法，可以将一个客户机和远程文件服务器之间的文件同步，也可以在本地系统中将数据从一个分区备份到另一个分区上。如果rsync在备份过程中出现了数据传输中断，恢复后可以继续传输不一致的部分。rsync可以执行完整备份或增量备份。它的主要特点有：

1.可以镜像保存整个目录树和文件系统；

2.可以很容易做到保持原来文件的权限、时间、软硬链接；无须特殊权限即可安装；

3.可以增量同步数据，文件传输效率高，因而同步时间短；

4.可以使用rcp、ssh等方式来传输文件，当然也可以通过直接的socket连接；

5.支持匿名传输，以方便进行网站镜象等；

6.加密传输数据，保证了数据的安全性；

-v是“--verbose”,即详细模式输出； -z表示“--compress”，即传输时对数据进行压缩处理；

-r表示“--recursive”，即对子目录以递归的模式处理；-t是“--time”，即保持文件时间信息；

-o表示“owner”，用来保持文件属主信息；-p是“perms”，用来保持文件权限；

-g是“group”，用来保持文件的属组信息；

--progress用于显示数据镜像同步的过程；

--delete选项指定以rsync服务器端为基础进行数据镜像同步，也就是要保持rsync服务器端目录与客户端目录的完全一致；

--exclude选项用于排除不需要传输的文件类型；

rsync的优点与不足

与传统的cp、tar备份方式对比，rsync具有安全性高、备份迅速、支持增量备份等优点，通过rsync可以解决对实时性要求不高的数据备份需求，例如，定期地备份文件服务器数据到远端服务器，对本地磁盘定期进行数据镜像等。

但是随着系统规模的不断扩大，rsync的缺点逐渐被暴露了出来。首先，rsync做数据同步时，需要扫描所有文件后进行对比，然后进行差量传输。如果文件很大，扫面文件是非常耗时的，而且发生变化的文件往往是很少一部分，因此rsync是非常低效的方式。其次，rsync不能实时监测、同步数据，虽然它可以通过Linux守护进程的方式触发同步，但是两次触发动作一定会有时间差，可能导致服务器端和客户端数据出现不一致

在对rsync服务器配置结束以后，下一步就需要在客户端发出rsync命令来实现将服务器端的文件备份到客户端来。rsync是一个功能非常强大的工具，其命令也有很多功能特色选项，我们下面就对它的选项一一进行分析说明。

Rsync的命令格式可以为以下六种：

rsync [OPTION]... SRC DEST
rsync [OPTION]... SRC [USER@]HOST:DEST
rsync [OPTION]... [USER@]HOST:SRC DEST
rsync [OPTION]... [USER@]HOST::SRC DEST
rsync [OPTION]... SRC [USER@]HOST::DEST
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

对应于以上六种命令格式，rsync有六种不同的工作模式：
　　1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如：rsync -a /data /backup
　　2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如：rsync -avz *.c foo:src
　　3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如：rsync -avz foo:src/bar /data
　　4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如：rsync -av root@172.16.78.192::www /databack
　　5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如：rsync -av /databack root@172.16.78.192::www
　　6)列远程机的文件列表。这类似于rsync传输，不过只要在命令中省略掉本地机信息即可。如：rsync -v rsync://172.16.78.192/www

rsync 参数理解

-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关，强制对文件传输进行校验
-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结
-p, --perms 保持文件权限
-o, --owner 保持文件属主信息
-g, --group 保持文件属组信息
-D, --devices 保持设备文件信息
-t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件，不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输
--force 强制删除目录，即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间，单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽，KBytes per second
-h, --help 显示帮助信息

一般都使用azv选项

--deldete

–delete：如果源端没有此文件，那么目的端也别想拥有，删除之。（如果你使用这个选项，就必须搭配 -r 选项一起）

--delete 删除那些 DST 中 SRC 没有的文件，就是说，DST 中如果存在和 SRC 不一样的文件，那么这些文件就会在同步过程中删除！这种同步方式是不是有点像镜像同步。

为了搞清楚目录加/的区别，做了如下的对比：

目的：将源目录test传输到远程目录/tmp下，即远程目录下/tmp/test

结果显示，加了斜线，会将源目录下的文件，传输到目标目录下。

Copy

rsync -avlK ./test/ root@10.22.44.103:/tmp/test 
root@10.22.44.103's password: 
sending incremental file list
created directory /tmp/test
./
a.txt
b.py
dd/

sent 208 bytes  received 97 bytes  55.45 bytes/sec
total size is 0  speedup is 0.00

root@SZX1000395393:/tmp/test# ls
a.txt  b.py  dd

不加斜线，直接将源目录复制到目标目录下，所以，test整个目录复制到了目标目录下了。

Copy

root at node1 in /tmp 
$ rsync -avlK ./test root@10.22.44.103:/tmp/test 
root@10.22.44.103's password: 
sending incremental file list
created directory /tmp/test
test/
test/a.txt
test/b.py
test/dd/

sent 219 bytes  received 98 bytes  57.64 bytes/sec
total size is 0  speedup is 0.00


root@SZX1000395393:/tmp# cd test/
root@SZX1000395393:/tmp/test# ls
test
root@SZX1000395393:/tmp/test# cd test
root@SZX1000395393:/tmp/test/test# ls
a.txt  b.py  dd

不加斜线，直接将源目录复制到目标目录下，所以，test整个目录复制到了目标目录下了。

Copy

$ rsync -avlK ./test root@10.22.44.103:/tmp/test/ 
root@10.22.44.103's password: 
sending incremental file list
created directory /tmp/test
test/
test/a.txt
test/b.py
test/dd/

sent 219 bytes  received 98 bytes  70.44 bytes/sec
total size is 0  speedup is 0.00


root@SZX1000395393:/tmp# cd test/
root@SZX1000395393:/tmp/test# ls
test

结果显示，加了斜线，会将源目录下的文件，传输到目标目录下。

Copy

$ rsync -avlK ./test/ root@10.22.44.103:/tmp/test/
root@10.22.44.103's password: 
sending incremental file list
created directory /tmp/test
./
a.txt
b.py
dd/

sent 208 bytes  received 97 bytes  55.45 bytes/sec
total size is 0  speedup is 0.00

root@SZX1000395393:/tmp/test# ls
a.txt  b.py  dd

总结

源目录加了斜线，效果就是将该目录下的内容传输到目标目录下。
源目录不加斜线，效果就是将该目录传输到目标目录下。
目标目录如果不存在，会自动创建目标目录。

所以，为了实现最初的目的，可以通过：

Copy

$ rsync -avlK ./test/ root@10.22.44.103:/tmp/test

或者：

Copy

$ rsync -avlK ./test root@10.22.44.103:/tmp

-a 选项

-a 选项是rsync里比较霸道的一个选项，因为你使用-a选项，就相当于使用了 -rlptgoD 这一坨选项。以一敌七，唯 -a选项也。（在看了前文之后，你应该可以很轻松的理解这七个选项的作用了）
-a 选项的学名应该叫做archive option，中文叫做归档选项。使用-a` 选项，就表明你希望采取递归方式来同步，且尽可能的保持各个方面的一致性。
但是 -a选项也有阿克琉斯之踵，那就是-a无法同步“硬链接”情况。如果有这方面需求，要加上-H选项

实例

加不加 / 的区别

末尾不加/，表示的是将src这个目录直接复制到文件夹下，如果dst目录下没有src，会自动创建src目录

Copy

$ rsync -avzh --progress /apkg/backup/src /apkg/backup/dst

末尾加/，表示的是将src目录下的内容复制到dst2文件夹下

Copy

$ rsync -avzh --progress /apkg/backup/src/ /apkg/backup/dst2

同步时，创建目录

将本地机器上/data/repo/Log/中的内容，归档到远程机器上的/data/repo/Log/{repo}/目录中，{repo} 这个目录远程不一定有，需要创建：

Copy

rsync -avzh --progress --rsync-path="mkdir -p /data/repo/Log/{repo} && rsync " /tmp/{repo}/{repo}/log/ root@xxx.xxx.xxx.xxx:/data/repo/Log/{repo}/

参考

rsync -aL

示例：

一次传输多个文件到目标文件夹下

Copy

rsync -aL /apkg/FusionSwift/package_pool/DLRN_RPMS/current/cps-swift.noarch.rpm /apkg/FusionSwift/package_pool/DLRN_RPMS/current/cps-swift-proxy.noarch.rpm /apkg/FusionSwift/rpm_srv/euleros/2.0/noarch/

-e

示例：

Copy

rsync -avzKq --stats -e "ssh -i /usr/lib/python2.7/site-packages/apkg/actions/pool/id_rsa -o StrictHostKeyChecking=no" cps-pkg-pool-2.xxx.com:/data/cps/repo/FusionSwift/master/xxx/euler

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。