码迷,mamicode.com
首页 > 其他好文 > 详细

取得一张表的数据不在另一张表中的最优秀方法(JOIN与EXISTS的效率研究)

时间:2015-04-17 11:27:18      阅读:217      评论:0      收藏:0      [点我收藏+]

标签:mysql   数据库   优化   select   profiling   

业务需求:

公司有个CRM经纪人管理系统,前天遇到的比较棘手的问题是,要查询一张表中不在另一张表中的所有用户并分页显示,但问题是外表的数据量很大,如果用not in(select ..),not exists(select ...)之类的子查询 的话需要对子查询表进行所有信息的调用过滤才行,一单子查询数据量过大效率问题就来了,于是就私下里查了一点资料,并根据资料中提供的例子建立了对应的测试表做了一些测试,随后将解决问题的方法移交给了技术部的邹鸿同事去解决问题,因为是前天的事情了,本来是事情忙没时间写日志的,就是这个事情没有做个笔记已经两天没睡好觉了,于是乎今天来了还是做一下笔记,分享给大家的好,如果大家有更好的办法 或者 说有bug疑问,请随时Email联系 摘取天上星 happy.yin@qq.com

下面是一组测试的JOIN 、EXISTS 效率对比

先将profiling打开,用来一会查看sql执行时间

set profiling=1;

 exists 子查询与 join联接效率的对比

EXPLAIN SELECT film_id, language_id FROM sakila.film
WHERE NOT EXISTS(
    SELECT * FROM sakila.film_actor
    WHERE film_actor.film_id = film.film_id
);

 技术分享

EXPLAIN SELECT film_id, language_id FROM sakila.film
    LEFT JOIN sakila.film_actor USING(film_id)
WHERE film_actor.actor_id IS NULL; 

技术分享

他们只有一点细微的区别,一个select_type,还有就是Extra里后者用了Not exists,也就是提前终止算法,当遇到第一个actor_id不是null的时候,就舍弃这个筛选.

最后来看看二者的效率

技术分享

可知使用子查询Exists的效率要低一些.

技术分享
SELECT DISTINCT film_id FROM sakila.film
    JOIN sakila.film_actor USING(film_id);

SELECT film_id FROM sakila.film
    WHERE EXISTS (
    SELECT * FROM sakila.film_actor
    WHERE film.film_id = film_actor.film_id);

SHOW PROFILES;
技术分享

技术分享

可以看出.依然EXISTS效率要低
PS:“摘取天上星” 的小插曲,有人说在使用JOIN方法对 1000万条数据的表进行操作时速度会变得很慢,其实不是SQL语句本身的问题,单表1000万条数据慢的问题是磁盘IO带来的硬伤,是任何优化无法避免的,使用任何软件层优化都无法避免磁盘IO问题对数据库带来的硬伤。。

总结:判断一个表的数据不在另一个表中最优秀方法如下可选(前提条件:a表的aid和b表的aid必须有索引,b.aid不能有NULL值):
SELECT aid FROM a LEFT JOIN b ON a.aid = b.aid WHERE b.aid IS NULL LIMIT 0,100;

SELECT  aid FROM a LEFT JOIN b USING(aid) WHERE b.aid IS NULL  LIMIT 0,100;(此语法实际效果同上,是上面SQL语句的简写形式,USING语法参见本文末尾↓)

实现原理其实很简单,left join在进行 链表时,如果外表数据不存在 的情况下 返回数据为NULL,
而 SELECT aid FROM a LEFT JOIN ON a.aid=b.aid WHERE b.aid IS NULL 恰恰利用了 a表aid和b表aid相等同时b表的aid又为NULL的情况下才返回数据,而满足这个条件的数据只有一种情况,就是b表中没有这个数据的情况下才满足b.aid即为NULL,同时又和a.aid相等,也就是我们要找的在a表中但不在b表中的数据。
 
USING用法以及使用效果如下:

用于表连接时给定连接条件(可以理解为简写形式)

SELECT * FROM a JOIN b ON a.id = b.id;

使用 USING 可以写为

SELECT * FROM a JOIN b USING(id); 


??
??
??

取得一张表的数据不在另一张表中的最优秀方法(JOIN与EXISTS的效率研究)

标签:mysql   数据库   优化   select   profiling   

原文地址:http://blog.csdn.net/zqtsx/article/details/45059013

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!