python分页从数据库获取数据分页查询数据库

转载

网络安全专家 2023-11-19 22:31:56

文章标签 python分页从数据库获取数据数据库分页 limit rownum mysql 文章分类 Python 后端开发

一、MySQL

1、Mysql的limit用法

在我们使用查询语句的时候，经常要返回前几条或者中间某几行数据，这个时候怎么办呢？不用担心，mysql已经为我们提供了这样一个功能。

SELECT * FROM table LIMIT [offset,] rows | rows OFFSET offset

LIMIT 子句可以被用于强制 SELECT 语句返回指定的记录数。LIMIT 接受一个或两个数字参数。参数必须是一个整数常量。如果给定两个参数，第一个参数指定第一个返回记录行的偏移量，第二个参数指定返回记录行的最大数目。初始记录行的偏移量是 0(而不是 1)：为了与 PostgreSQL 兼容，MySQL 也支持句法： LIMIT # OFFSET #。

mysql> SELECT * FROM table LIMIT 5,10; // 检索记录行 6-15   
//为了检索从某一个偏移量到记录集的结束所有的记录行，可以指定第二个参数为 -1：   
mysql> SELECT * FROM table LIMIT 95,-1; // 检索记录行 96-last.   
//如果只给定一个参数，它表示返回最大的记录行数目：    
mysql> SELECT * FROM table LIMIT 5; //检索前 5 个记录行
//换句话说，LIMIT n 等价于 LIMIT 0,n。

2、Mysql的分页查询语句的性能分析

MySql分页sql语句，如果和MSSQL的TOP语法相比，那么MySQL的LIMIT语法要显得优雅了许多。使用它来分页是再自然不过的事情了。

2.1 最基本的分页方式：

SELECT ... FROM ... WHERE ... ORDER BY ... LIMIT ...

在中小数据量的情况下，这样的SQL足够用了，唯一需要注意的问题就是确保使用了索引：
举例来说，如果实际SQL类似下面语句，那么在category_id, id两列上建立复合索引比较好：

SELECT * FROM articles WHERE category_id = 123 ORDER BY id LIMIT 50, 10

2.2 子查询的分页方式：

随着数据量的增加，页数会越来越多，查看后几页的SQL就可能类似：

SELECT * FROM articles WHERE category_id = 123 ORDER BY id LIMIT 10000, 10

一言以蔽之，就是越往后分页，LIMIT语句的偏移量就会越大，速度也会明显变慢。
此时，我们可以通过子查询的方式来提高分页效率，大致如下：

SELECT * FROM articles WHERE  id >=   
 (SELECT id FROM articles  WHERE category_id = 123 ORDER BY id LIMIT 10000, 1) LIMIT 10

2.3 JOIN分页方式

SELECT * FROM `content` AS t1    
JOIN (SELECT id FROM `content` ORDER BY id desc LIMIT ".($page-1)*$pagesize.", 1) AS t2    
WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT $pagesize;

经过我的测试，join分页和子查询分页的效率基本在一个等级上，消耗的时间也基本一致。
explain SQL语句：

id select_type table type possible_keys key key_len ref rows Extra
1 PRIMARY system NULL NULL NULL NULL 1
1 PRIMARY t1 range PRIMARY PRIMARY 4 NULL 6264 Using where
2 DERIVED content index NULL PRIMARY 4 NULL 27085 Using index

为什么会这样呢？因为子查询是在索引上完成的，而普通的查询时在数据文件上完成的，通常来说，索引文件要比数据文件小得多，所以操作起来也会更有效率。
实际可以利用类似策略模式的方式去处理分页，比如判断如果是一百页以内，就使用最基本的分页方式，大于一百页，则使用子查询的分页方式。

二、Oracle

从数据库表中第M条记录开始检索N条记录

SELECT * FROM (SELECT ROWNUM r,t1.* From 表名称 t1 where rownum < M + N) t2 where t2.r >= M

例如从表Sys_option（主键为sys_id)中从第10条记录开始检索20条记录，语句如下：

SELECT * FROM (SELECT ROWNUM R,t1.* From Sys_option where rownum < 30 ) t2 where t2.R >= 10

三、SQLServer

SQL Server主要利用 SELECT TOP语句分页，具体方案，请参考

分页方案一：(利用Not In和SELECT TOP分页)

语句形式：

SELECT TOP 10 *    
FROM TestTable    
WHERE (ID NOT IN    
(SELECT TOP 20 id    
FROM TestTable 
ORDER BY id))    
ORDER BY ID

SELECT TOP 页大小 *    
FROM TestTable    
WHERE (ID NOT IN    
(SELECT TOP 页大小*页数 id    
FROM 表    
ORDER BY id))    
ORDER BY ID    
SELECT TOP 页大小 *

FROM TestTable    
WHERE (ID >    
(SELECT MAX(id)    
FROM (SELECT TOP 页大小*页数 id    
FROM 表    
ORDER BY id) AS T))    
ORDER BY ID

分页方案二：(利用ID大于多少和SELECT TOP分页）

语句形式：

SELECT TOP 10 *    
FROM TestTable    
WHERE (ID >    
(SELECT MAX(id)    
FROM (SELECT TOP 20 id    
FROM TestTable    
ORDER BY id) AS T))    
ORDER BY ID

分页方案三：(利用SQL的游标存储过程分页)

create procedure XiaoZhengGe    
@sqlstr nvarchar(4000), --查询字符串    
@currentpage int, --第N页    
@pagesize int --每页行数    
as    
set nocount on    
declare @P1 int, --P1是游标的id    
@rowcount int    
exec sp_cursoropen @P1 output,@sqlstr,@scrollopt=1,@ccopt=1,@rowcount=@rowcount output    
select ceiling(1.0*@rowcount/@pagesize) as 总页数--,@rowcount as 总行数,@currentpage as 当前页    
set @currentpage=(@currentpage-1)*@pagesize+1    
exec sp_cursorfetch @P1,16,@currentpage,@pagesize    
exec sp_cursorclose @P1    
set nocount off

其它的方案：如果没有主键，可以用临时表，也可以用方案三做，但是效率会低。
建议优化的时候，加上主键和索引，查询效率会提高。
通过SQL 查询分析器，显示比较：我的结论是: