s3cmd详解

文章目录

1. 安装

1.1 tar包安装

下载：
​​​ https://github.com/s3tools/s3cmd/releases​​

wget https://github.com/s3tools/s3cmd/releases/download/v2.0.2/s3cmd-2.0.2.tar.gz
tar -xvf s3cmd-2.0.2.tar.gz
cd  s3cmd-2.0.2
python setup.py install

注意：
常见依赖工具：

pip install python-dateutil
pip install setuptools

1.2 pip安装

pip3 install s3cmd

2. 配置与文件处理

1.配置Access Key ID 和 Secret Access Key
 $ s3cmd --configure

2.列举所有的Buckets
$ s3cmd ls

3.创建 bucket，且 bucket 名称是唯一的，不能重复。
$ s3cmd mb s3://my-bucket-name

4.删除空 bucket
$ s3cmd rb s3://my-bucket-name

5.列举 Bucket 中的内容
$ s3cmd ls s3://my-bucket-name

6.上传 file.txt 到某个 bucket
$ s3cmd put file.txt s3://my-bucket-name/file.txt

7.上传并将权限设置为所有人可读
$ s3cmd put --acl-public file.txt s3://my-bucket-name/file.txt

8.批量上传文件
$ s3cmd put ./* s3://my-bucket-name/

9.下载文件
$ s3cmd get s3://my-bucket-name/file.txt file.txt

10.批量下载
$ s3cmd get s3://my-bucket-name/* ./

11.删除文件
$ s3cmd del s3://my-bucket-name/file.txt

12.来获得对应的bucket所占用的空间大小
$ s3cmd du -H s3://my-bucket-name

3. 文件夹处理规则

带"/"斜杠的 dir1，相当于上传yh目录下的所有文件，即类似 "cp ./* "

$ s3cmd put -r yh s3://yaohong-bucket
　　upload: 'yh/1' -> 's3://yaohong-bucket/yh/1' [1 of 4]
　　0 of 0 0% in 0s 0.00 B/s done
　　upload: 'yh/2' -> 's3://yaohong-bucket/yh/2' [2 of 4]
　　0 of 0 0% in 0s 0.00 B/s done
　　upload: 'yh/3.py' -> 's3://yaohong-bucket/yh/3.py' [3 of 4]
　　0 of 0 0% in 0s 0.00 B/s done
　　upload: 'yh/3.sh' -> 's3://yaohong-bucket/yh/3.sh' [4 of 4]
　　0 of 0 0% in 0s 0.00 B/s done

4. sync同步方法

1.同步当前目录下所有文件

$ s3cmd sync  ./  s3://yaohong-bucket/

2.加 "–dry-run"参数后，仅列出需要同步的项目，不实际进行同步。

$ s3cmd sync  --dry-run ./  s3://my-bucket-name/

3.加 " --delete-removed"参数后，会删除本地不存在的文件。

$ s3cmd sync  --delete-removed ./  s3://my-bucket-name/

4.加 " --skip-existing"参数后，不进行MD5校验，直接跳过本地已存在的文件。

$ s3cmd sync  --skip-existing ./  s3://my-bucket-name/

5. 高级同步

排除、包含规则（–exclude 、–include）
file1-1.txt被排除，file2-2.txt同样是txt格式却能被包含

$ s3cmd sync --dry-run --exclude '*.txt' --include 'dir2/*' ./  s3://my-bucket-name/
exclude: dir1/file1-1.txt
upload: ./dir2/file2-2.txt -> s3://my-bucket-name/dir2/file2-2.txt

从文件中载入排除或包含规则。(–exclude-from、–include-from)

$ s3cmd sync  --exclude-from pictures.exclude ./  s3://my-bucket-name/

排除或包含规则支持正则表达式
–rexclude 、–rinclude、–rexclude-from、–rinclude-from

6. 报错

# s3cmd mb s3://czsss-xxxx
ERROR: [Errno -2] Name or service not known
ERROR: Connection Error: Error resolving a server hostname.
Please check the servers address specified in 'host_base', 'host_bucket', 'cloudfront_host', 'website_endpoint'

缺失配置
s3cmd --configure 生成的配置文件如下

$ cat /root/.s3cfg

access_key = QFBD6HTA7KVCQ4FF0XGT
secret_key = 5yfezCjCiZxK8icwiG3MUWYD54jkU36f9cmEfaRO
host_base = s3-beta5.51wyq.cn:7480
host_bucket = %(bucket)s.s3-beta5.51wyq.cn:7480
simpledb_host = s3-beta5.51wyq.cn:7480
cloudfront_host = s3-beta5.51wyq.cn:7480
website_endpoint = http://%(bucket)s.s3-beta5.51wyq.cn:7480/