支持关联查询的nosql 关联查询效率

转载

jojo 2023-08-22 23:37:44

文章标签 支持关联查询的nosql SQL 数据类型转换 文章分类 NoSQL 数据库

问题描述

需要查询两张表得到想要的数据，第一张表数据量维持在八百万到一千万条左右，第二张表目前数据量已是千万级（更重要的是该表的数据量还会继续增加），现需要对查询进行优化。

总而言之，对查询效率缓慢的情况进行优化。

优化选择

从程序的角度

能用多线程的，开启合适的线程数进行处理
用程序过滤掉确定的那一部分，减少查询

从sql语句的角度

减少查库的次数

避免频繁的创建连接、查询、释放连接等操作。如果可以的话，把所有结果（或分页）都查询出来放到内存中用程序进行处理，从而减少频繁的操作数据库。

sql语句大写

因为oracle总是先解析sql语句，把小写的字母转换成大写的再执行

强制索引

让sql的执行计划强制走索引，尽管加上强制索引也不一定会走索引

避免使用select *

ORACLE在解析的过程中，会将'*' 依次转换成所有的列名，这个工作是通过查询数据字典完成的，这意味着将耗费更多的时间

count的效率

count花费的时间：count(*) > count(1) > count(索引列)

子查询

若where条件中存在不走索引（或，使索引失效的字段），可以拆成子查询，内层的查询让其走索引，外层的查询可以不走索引

避免使用函数：

避免使用如substr()这样的函数，可以考虑用between...and...或like 'xx%'（因为此时的模糊会走索引）来代替

避免在索引列上使用计算

WHERE子句中，如果索引列是函数的一部分．优化器将不使用索引而使用全表扫描

低效： SELECT … FROM DEPT WHERE SAL * 12 > 25000;
高效: SELECT … FROM DEPT WHERE SAL > 25000/12;

用>=替代>

两者的区别在于，前者DBMS将直接跳到第一个DEPT等于4的记录，而后者将首先定位到DEPTNO=3的记录并且向前扫描到第一个DEPT大于3的记录

高效: SELECT * FROM EMP WHERE DEPTNO >=4;
低效: SELECT * FROM EMP WHERE DEPTNO >3;

避免在索引列上使用NOT

通常我们要避免在索引列上使用NOT，NOT会产生在和在索引列上使用函数相同的影响。当ORACLE”遇到”NOT，他就会停止使用索引转而执行全表扫描

用IN来替换OR

这是一条简单易记的规则，但是实际的执行效果还须检验，在ORACLE8i下，两者的执行路径似乎是相同的。

低效：SELECT…. FROM LOCATION WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30;
高效：SELECT… FROM LOCATION WHERE LOC_IN IN (10,20,30);

用UNION替换OR (适用于索引列)

通常情况下，用UNION替换WHERE子句中的OR将会起到较好的效果。对索引列使用OR将造成全表扫描。注意, 以上规则只针对多个索引列有效。如果有column没有被索引，查询效率可能会因为你没有选择OR而降低。在下面的例子中, LOC_ID 和REGION上都建有索引。

高效：
SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10
UNION
SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE REGION = “MELBOURNE”
低效：
SELECT LOC_ID , LOC_DESC , REGION FROM LOCATION WHERE LOC_ID = 10 OR REGION = “MELBOURNE”

只能用OR，把返回记录最少的索引列写在最前面
避免在索引列上使用IS NULL和IS NOT NULL

避免在索引中使用任何可以为空的列，ORACLE将无法使用该索引。对于单列索引，如果列包含空值，索引中将不存在此记录。对于复合索引，如果每个列都为空，索引中同样不存在此记录。如果至少有一个列不为空，则记录存在于索引中。

低效(索引失效）：SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL;
高效(索引有效) ：SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;

使用默认值（或特殊值）来标明字段为null

比如设置0代表null

总是使用索引的第一个列（索引的最左原则）

如果索引是建立在多个列上，只有在它的第一个列(leading column)被where子句引用时，优化器才会选择使用该索引。这也是一条简单而重要的规则，当仅引用索引的第二个列时，优化器使用了全表扫描而忽略了索引

备注：从说法欠缺，并非是使用了全表扫描，而是使用了索引跳跃式扫描（INDEX SKIP SCAN），想了解跳跃式索引，请查看博客：索引跳跃式扫描（INDEX SKIP SCAN）

用WHERE替代ORDER BY

ORDER BY 子句只在两种严格的条件下使用索引。（a）ORDER BY中所有的列必须包含在相同的索引中并保持在索引中的排列顺序。（b）ORDER BY中所有的列必须定义为非空。

WHERE子句使用的索引和ORDER BY子句中所使用的索引不能并列.

例如（该例的两种写法不是同一个需求吧？）：表DEPT包含以下列
DEPT_CODE PK NOT NULL
DEPT_DESC NOT NULL
DEPT_TYPE NULL
低效(索引不被使用) ：SELECT DEPT_CODE FROM DEPT ORDER BY DEPT_TYPE
高效(使用索引) ：SELECT DEPT_CODE FROM DEPT WHERE DEPT_TYPE > 0

用WHERE子句替换HAVING子句

避免使用HAVING子句， HAVING 只会在检索出所有记录之后才对结果集进行过滤。这个处理需要排序，总计等操作。如果能通过WHERE子句限制记录的数目，那就能减少这方面的开销。

(非oracle中)on、where、having这三个都可以加条件的子句中，on是最先执行，where次之，having最后，因为on是先把不符合条件的记录过滤后才进行统计，它就可以减少中间运算要处理的数据，按理说应该速度是最快的，where也应该比having快点的，因为它过滤数据后才进行sum，在两个表联接时才用on的，所以在一个表的时候，就剩下where跟having比较了。

在这单表查询统计的情况下，如果要过滤的条件没有涉及到要计算字段，那它们的结果是一样的，只是where可以使用rushmore技术，而having就不能，在速度上后者要慢如果要涉及到计算的字段，就表示在没计算之前，这个字段的值是不确定的，where的作用时间是在计算之前就完成的，而having就是在计算后才起作用的，所以在这种情况下，两者的结果会不同。

在多表联接查询时，on比where更早起作用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再由where进行过滤，然后再计算，计算完后再由having进行过滤。由此可见，要想过滤条件起到正确的作用，首先要明白这个条件应该在什么时候起作用，然后再决定放在那里

尽可能不要进行连表查询，能在业务上分开就分开

通过业务逻辑把关联查询的表分别查询来提高效率，尤其是两个表都是千万级以上的

选择最有效率的表名顺序(只在基于规则的优化器中有效)

ORACLE解析器按照从右到左的顺序处理FROM子句中的表名，FROM子句中写在最后的表（基础表dirving table）将被最先处理，在FROM子句中包含多个表的情况下，你必须选择记录条数最少的表作为基础表。如果有3个以上的表连接查询，那就需要选择交叉表（intersection table）作为基础表，交叉表是指那个被其他表所引用的表.

WHERE子句中的连接顺序

ORACLE采用自下而上的顺序解析WHERE子句，根据这个原理，表之间的连接必须写在其他WHERE条件之前，那些可以过滤掉最大数量记录的条件必须写在WHERE子句的末尾.

使用表的别名(Alias)

当在SQL语句中连接多个表时，请使用表的别名并把别名前缀于每个Column上。这样一来，就可以减少解析的时间并减少那些由Column歧义引起的语法错误。

用EXISTS替代IN、用NOT EXISTS替代NOT IN

在许多基于基础表的查询中，为了满足一个条件，往往需要对另一个表进行联接。在这种情况下,，使用EXISTS(或NOT EXISTS)通常将提高查询的效率.。在子查询中，NOT IN子句将执行一个内部的排序和合并。无论在哪种情况下，NOT IN都是最低效的 (因为它对子查询中的表执行了一个全表遍历)。为了避免使用NOT IN，我们可以把它改写成外连接(Outer Joins)或NOT EXISTS。

（高效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X' FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB') ;
（低效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEPTNO FROM DEPT WHERE LOC = ‘MELB')

用EXISTS替换DISTINCT

当提交一个包含一对多表信息（比如部门表和雇员表）的查询时，避免在SELECT子句中使用DISTINCT。一般可以考虑用EXIST替换，EXISTS 使查询更为迅速，因为RDBMS核心模块将在子查询的条件一旦满足后，立刻返回结果.

(低效)SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E WHERE D.DEPT_NO = E.DEPT_NO
(高效) SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS ( SELECT 'X' FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);

用UNION-ALL 替换UNION ( 如果有可能的话)

当SQL语句需要UNION两个查询结果集合时，这两个结果集合会以UNION-ALL的方式被合并，然后在输出最终结果前进行排序。如果用UNION ALL替代UNION，这样排序就不是必要了，效率就会因此得到提高。

需要注意的是，UNION ALL 将重复输出两个结果集合中相同记录。因此还是要从业务需求分析使用UNION ALL的可行性。 UNION 将对结果集合排序，这个操作会使用到SORT_AREA_SIZE这块内存。对于这块内存的优化也是相当重要的。

下面的SQL可以用来查询排序的消耗量

低效：
SELECT ACCT_NUM, BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
UNION
SELECT ACCT_NUM, BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
高效:
SELECT ACCT_NUM, BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'
UNION ALL
SELECT ACCT_NUM, BALANCE_AMT FROM DEBIT_TRANSACTIONS WHERE TRAN_DATE = '31-DEC-95'

避免改变索引列的类型

当比较不同数据类型的数据时， ORACLE自动对列进行简单的类型转换。

假设 EMPNO 是一个数值类型的索引列.
SELECT … FROM EMP WHERE EMPNO = ‘123'
实际上，经过ORACLE类型转换，语句转化为：
SELECT … FROM EMP WHERE EMPNO = TO_NUMBER(‘123');
幸运的是，类型转换没有发生在索引列上（发生在数值上），索引的用途没有被改变。
现在，假设 EMP_TYPE 是一个字符类型的索引列.
SELECT … FROM EMP WHERE EMP_TYPE = 123
这个语句被ORACLE转换为：
SELECT … FROM EMP WHERETO_NUMBER(EMP_TYPE)=123

因为内部发生的类型转换，这个索引将不会被用到!！！！为了避免ORACLE对你的SQL进行隐式的类型转换，最好把类型转换用显式表现出来（显示表现出来就会走索引？？）。注意当字符和数值比较时，ORACLE会优先转换数值类型到字符类型（这句话可能是错误的，有待考究，应该是：ORACLE会优先转换字符类型到数值类型），下面有实验结果：

支持关联查询的nosql 关联查询效率_支持关联查询的nosql

避免使用耗费资源的操作

带有DISTINCT、UNION、MINUS、INTERSECT、ORDER BY的SQL语句会启动SQL引擎

执行耗费资源的排序(SORT)功能。DISTINCT需要一次排序操作，而其他的至少需要执行两次排序。通常, 带有UNION、MINUS、INTERSECT的SQL语句都可以用其他方式重写。如果你的数据库的SORT_AREA_SIZE调配得好，使用UNION 、MINUS、INTERSECT也是可以考虑的，毕竟它们的可读性很强。

含有子查询的SQL，要特别注意减少对表的查询

例子：SELECT TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) = ( SELECT TAB_NAME,DB_VER FROM TAB_COLUMNS WHERE VERSION = 604)

其他

利用游标

在存储过程或函数中使用游标进行数据的缓冲

在SQL*Plus 中重新设置ARRAYSIZE参数： 可以增加每次数据库访问的检索数据量，建议值为200

附：关于提取操作的机制，一次FETCH调用将会访问缓冲区缓存中的一个或多个数据块，每次访问一个数据块的时候，Oracle会在该块中取出数据行然后在一次回路中返回给客户端，这里对于一次返回的行数便是Arraysize(列大小)，Arraysize表明了一次提取操作在网络回路中传输的可能的数据行数。如果是Java应用，可以通过设置Connection.SetdefaultRowPrefetch(n)来实现。（释义：预提取数据行）

使用DECODE函数来减少处理时间

使用DECODE函数可以避免重复扫描相同记录或重复连接相同的表

删除重复记录

最高效的删除重复记录方法 ( 因为使用了ROWID)

例子：DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID) FROM EMP X WHERE X.EMP_NO = E.EMP_NO);

用TRUNCATE替代DELETE

当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT事务,ORACLE会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE时, 回滚段不再存放任何可被恢复的信息.当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRUNCATE只在删除全表适用,TRUNCATE是DDL不是DML)

尽量多使用COMMIT

只要有可能，在程序中尽量多使用COMMIT，这样程序的性能得到提高，需求也会因为COMMIT所释放的资源而减少。
COMMIT所释放的资源:

a. 回滚段上用于恢复数据的信息.
b. 被程序语句获得的锁
c. redo log buffer 中的空间
d. ORACLE为管理上述3种资源中的内部花费

识别'低效执行'的SQL语句（没懂）

SELECT 
EXECUTIONS , 
DISK_READS, 
BUFFER_GETS, 
ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio, 
ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run, 
SQL_TEXT 
FROM V$SQLAREA 
WHERE EXECUTIONS>0 AND BUFFER_GETS > 0 AND (BUFFER_GETS-DISK_READS)/BUFFER_GETS < 0.8 
ORDER BY 4 DESC;

从数据库（数据表）的角度

创建索引（单列索引、复核索引、函数索引）
创建视图：聚合原表的查询结果
创建原表聚合结果之后的表（会大大压缩数据量，比如原表中有几千万条数据，而聚合的结果只有几百条），查询的时候只查询新表即可，其他操作（增删改）可能要同时维护这两者表
分区：需要注意的是由于数据不断增长，应该可以根据某个依据动态的创建分区
分表：同理

索引

索引是表的一个概念部分,用来提高检索数据的效率，ORACLE使用了一个复杂的自平衡B-tree结构。通常，通过索引查询数据比全表扫描要快。当ORACLE找出执行查询和Update语句的最佳路径时， ORACLE优化器将使用索引. 同样在联结多个表时使用索引也可以提高效率. 另一个使用索引的好处是,它提供了主键(primary key)的唯一性验证.。那些LONG或LONG RAW数据类型, 你可以索引几乎所有的列. 通常, 在大型表中使用索引特别有效. 当然,你也会发现, 在扫描小表时,使用索引同样能提高效率. 虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DELETE , UPDATE将为此多付出4 , 5 次的磁盘I/O . 因为索引需要额外的存储空间和处理,那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.：