4种方法解决MongoDB游标超时的问题_连接数据库

当我们使用Python从MongoDB里面读取数据时,可能会这样写代码:

  1. import pymongo

  2.  

  3. handler = pymongo.MongoClient().db.col

  4.  

  5. for row in handler.find():

  6. parse_data(row)

短短4行代码,读取MongoDB里面的每一行数据,然后传入 parse_data做处理。处理完成以后再读取下一行。逻辑清晰而简单,能有什么问题?只要parse_data(row)不报错,这一段代码就完美无缺。

但事实并非这样。

你的代码可能会在 forrowinhandler.find()这一行报错。它的原因,说来话长。

要解释这个问题,我们首先就需要知道, handler.find()返回的并不是数据库里面的数据,而是一个 游标(cursor)对象。如下图所示:

4种方法解决MongoDB游标超时的问题_数据库_02

只有当你使用for循环开始迭代它的时候,游标才会真正去数据库里面读取数据。

但是,如果每一次循环都连接数据库,那么网络连接会浪费大量时间。

所以pymongo会一次性获取100行, forrowinhandler.find()循环第一次的时候,它会连上MongoDB,读取一百条数据,缓存到内存中。于是第2-100次循环,数据都是直接从内存里面获取,不会再连接数据库。

当循环进行到底101次的时候,再一次连接数据库,再读取第101-200行内容……

这个逻辑非常有效地降低了网络I/O耗时。

但是,MongoDB默认游标的超时时间是10分钟。10分钟之内,必需再次连接MongoDB读取内容刷新游标时间,否则,就会导致游标超时报错:

  1. pymongo.errors.CursorNotFound: cursor id 211526444773 not found

如下图所示:

4种方法解决MongoDB游标超时的问题_数据_03

所以,回到最开始的代码中来,如果 parse_data每次执行的时间超过6秒钟,那么它执行100次的时间就会超过10分钟。此时,当程序想读取第101行数据的时候,程序就会报错。

为了解决这个问题,我们有4种办法:

  1. 修改MongoDB的配置,延长游标超时时间,并重启MongoDB。由于生产环境的MongoDB不能随便重启,所以这个方案虽然有用,但是排除。

  2. 一次性把数据全部读取下来,再做处理:

  1. all_data = [row for row in handler.find()]

  2.  

  3. for row in all_data:

  4. parse(row)

这种方案的弊端也很明显,如果数据量非常大,你不一定能全部放到内存里面。即使能够全部放到内存中,但是列表推导式遍历了所有数据,紧接着for循环又遍历一次,浪费时间。

  1. 让游标每次返回的数据小于100条,这样消费完这一批数据的时间就会小于10分钟:

  1. # 每次连接数据库,只返回50行数据

  2. for row in handler.find().batch_size(50):

  3. parse_data(row)

但这种方案会增加数据库的连接次数,从而增加I/O耗时。

  1. 让游标永不超时。通过设定参数 no_cursor_timeout=True,让游标永不超时:

  1. cursor = handler.find(no_cursor_timeout=True)

  2. for row in cursor:

  3. parse_data(row)

  4. cursor.close() # 一定要手动关闭游标

然而这个操作非常危险,因为如果你的Python程序因为某种原因意外停止了,这个游标就再也无法关闭了!除非重启MongoDB,否则这些游标会一直留在MongoDB上,占用资源。

当然可能有人会说,使用 try...except把读取数据的地方包住,只要抛出了异常,在处理异常的时候关闭游标即可:

  1. cursor = handler.find(no_cursor_timeout=True)

  2. try:

  3. for row in cursor:

  4. parse_data(row)

  5. except Exception:

  6. parse_exception()

  7. finally:

  8. cursor.close() # 一定要手动关闭游标

其中 finally里面的代码,无论有没有异常,都会执行。

但这样写会让代码非常难看。为了解决这个问题,我们可以使用游标的上下文管理器:

  1. with handler.find(no_cursor_timeout=True) as cursor:

  2. for row in cursor:

  3. parse_data(row)

只要程序退出了with的缩进,游标自动就会关闭。如果程序中途报错,游标也会关闭。

它的原理可以用下面两段代码来解释:

  1. class Test:

  2. def __init__(self):

  3. self.x = 1

  4.  

  5. def echo(self):

  6. print(self.x)

  7.  

  8. def __enter__(self):

  9. print('进入上下文')

  10. return self

  11.  

  12. def __exit__(self, *args):

  13. print('退出上下文')

  14.  

  15. with Test() as t:

  16. t.echo()

  17. print('退出缩进')

运行效果如下图所示:

4种方法解决MongoDB游标超时的问题_缩进_04

接下来在 with的缩进里面人为制造异常:

  1. class Test:

  2. def __init__(self):

  3. self.x = 1

  4.  

  5. def echo(self):

  6. print(self.x)

  7.  

  8. def __enter__(self):

  9. print('进入上下文')

  10. return self

  11.  

  12. def __exit__(self, *args):

  13. print('退出上下文')

  14.  

  15. with Test() as t:

  16. t.echo()

  17. 1 + 'a' # 这里一定会报错

  18. print('退出缩进')

运行效果如下图所示:

4种方法解决MongoDB游标超时的问题_缩进_05

无论在 with的缩进里面发生了什么, Test这个类中的 __exit__里面的代码始终都会运行。

我们来看看pymongo的游标对象里面, __exit__是怎么写的,如下图所示:

4种方法解决MongoDB游标超时的问题_数据库_06

可以看到,这里正是关闭游标的操作。

因此,如果我们使用上下文管理器,就可以放心大胆地使用 no_cursor_timeout=True参数了。