一、数据导出和导入
数据导出导入工具是整个高可用和容灾策略中很重要的一部分。下面介绍MongoDB提供的导出和导入工具:mongoexport和mongoimport
mongoexport
mongoexport工具可以collection导出成JSON格式或者CSV格式文件。
1、先查询下mongo有什么数据
[root@gz-tencent ~]# mongo
...
> show dbs
admin 0.000GB
config 0.000GB
local 0.000GB
test 0.000GB
> use test
switched to db test
> show collections
123
starbucks
> db.starbucks.find()
{ "_id" : "16628", "name" : "26th & Broadway", "street" : "1140 Broadway", "city" : "New York", "location" : { "type" : "Point", "coordinates" : [ -73.989015, 40.743827 ] }, "_class" : "example.springdata.mongodb.repo.Store" }
...
2、导出collection为starbucks的数据
主要参数:
-d:要导出的库
-c:要导出的表
-o:导出的文件名
-q:查询条件
-f:导出哪几列
其他参数详情使用 mongoexport --help
查看详情
[root@gz-tencent ~]# mongoexport -d test -c starbucks -f name,street,city --type=csv -q '{_id:{$in:["839","817"]}}' -o starbucks.csv --limit=1
2019-01-20T17:30:37.171+0800 connected to: localhost
2019-01-20T17:30:37.172+0800 exported 1 record
[root@gz-tencent ~]# cat starbucks.csv
name,street,city
1st Avenue & 75th St.,1445 First Avenue,New York
mongoimport
mongoimport可以把特定格式文件(JSON、CVS)中的内容导出到collection中。
主要参数:
-f:导出哪几列
--headerline:将第一行作为表头(只支持CSV和TSV格式)
--fields 和 --headerline 不兼容。
[root@gz-tencent ~]# mongoimport -d test -c starbucks --type=csv --headerline --file=starbucks.csv
2019-01-20T18:04:54.983+0800 connected to: localhost
2019-01-20T18:04:55.052+0800 imported 1 document
二、数据备份和恢复
MongoDB将所有数据存储在数据目录中,默认/data/db,可以将所有数据目录下的文件拷贝出来用于创建备份。但是对运行中的MongoDB,采用拷贝文件的方式创建备份可能会造成文件的损坏。为了在不影响业务正常运行下进行备份,我们可以使用MongoDB提供的备份和恢复工具:mongodump和mongorestore。
mongodump
1、使用fsync命令强制MongoDB服务器同步所有内存数据,然后对数据库加锁防止写入操作。
> use admin
switched to db admin
> db.runCommand({"fsync":1,"lock":1});
{
"info" : "now locked against writes, use db.fsyncUnlock() to unlock",
"lockCount" : NumberLong(1),
"seeAlso" : "http://dochub.mongodb.org/core/fsynccommand",
"ok" : 1
}
2、进行数据备份操作。默认保存到 ./dump
目录下
主要参数:
-d:要导出的库
-c:要导出的表
-o:导出的文件名
-q:查询条件
[root@gz-tencent ~]# mongodump -d test -c starbucks
2019-01-20T21:42:10.869+0800 writing test.starbucks to
2019-01-20T21:42:10.870+0800 done dumping test.starbucks (1 document)
[root@gz-tencent ~]# ll dump/test
total 8
-rw-r--r-- 1 root root 103 Jan 20 21:42 starbucks.bson
-rw-r--r-- 1 root root 128 Jan 20 21:42 starbucks.metadata.json
3、对数据解锁,允许数据写入。
> db.fsyncUnlock();
{ "info" : "fsyncUnlock completed", "lockCount" : NumberLong(0), "ok" : 1 }
> db.currentOp();
{
"inprog" : [
...
],
"ok" : 1
}
mongorestore
恢复备份数据,使用mongorestore工具。
1、先删除starbucks表。
[root@gz-tencent ~]# mongo
...
> use test
switched to db test
> db.starbucks.drop()
true
> show collections
123
2、恢复刚刚备份的starbucks表
主要参数:
-d:要备份的库
-c:要备份的表
--drop:恢复备份前删除
[root@gz-tencent ~]# mongorestore -d test -c starbucks --drop ./dump/test/starbucks.bson
2019-01-20T22:01:41.557+0800 checking for collection data in dump/test/starbucks.bson
2019-01-20T22:01:41.587+0800 reading metadata for test.starbucks from dump/test/starbucks.metadata.json
2019-01-20T22:01:41.648+0800 restoring test.starbucks from dump/test/starbucks.bson
2019-01-20T22:01:41.709+0800 no indexes to restore
2019-01-20T22:01:41.709+0800 finished restoring test.starbucks (1 document)
2019-01-20T22:01:41.709+0800 done
三、克隆collection
克隆技术可以将数据从一个数据源拷贝到多个数据源,将一份数据发布到多个存储服务器上。
1、 远程克隆
使用cloneCollection命令实现从远程复制数据到本地(此处,从localhost:27017
拷贝到localhost:27018
)
[root@gz-tencent mongo]# mongo localhost:27018
> db.runCommand({cloneCollection:"test.starbucks",from:"xxx.x.x.x:27017"});
{ "ok" : 1 }
> show collections
starbucks
2、本地克隆
MongoDB没有提供本地克隆collection的命令,可以写一个循环插入完成本地克隆。
[root@gz-tencent mongo]# mongo localhost:27018
> use test
switched to db test
> show collections
starbucks
> db.starbucks.find().forEach(function(x){db.backup.insert(x)});
> show collections
backup
starbucks
> db.backup.find();
{ "_id" : ObjectId("5c4447c604673a654a364f09"), "name" : "1st Avenue & 75th St.", "street" : "1445 First Avenue", "city" : "New York" }
四、复制数据库
使用copyDatabase命令实现数据库复制,可以再几秒内创建数据库副本。
[root@gz-tencent mongo]# mongo localhost:27018
> db.copyDatabase("backup","backup","xxx.x.x.x:27017");
WARNING: db.copyDatabase is deprecated. See http://dochub.mongodb.org/core/copydb-clone-deprecation
{
"note" : "Support for the copydb command has been deprecated. See http://dochub.mongodb.org/core/copydb-clone-deprecation",
"ok" : 1
}
MongoDB 4.0以后已经过时不能用啦。