优化mysql嵌套查询和联表查询

优化mysql嵌套查询和联表查询

嵌套查询糟糕的优化

在上面我提到过,不考虑特殊的情况,联表查询要比嵌套查询更有效。尽管两条查询表达的是同样的意思,尽管你的计划是告诉服务器要做什么,然后让它决定怎么做,但有时候你非得告诉它改怎么做。否则优化器可能会做傻事。我最近就碰到这样的情况。这几个表是三层分级关系:category, subcategory和item。有几千条记录在category表,几百条记录在subcategory表,以及几百万条在item表。你可以忽略category表了,我只是交代一下背景,以下查询语句都不涉及到它。这是创建表的语句:

[sql]

create table subcategory (

id int not null primary key,

category int not null,

index(category)

) engine=InnoDB;

create table item(

id int not null auto_increment primary key,

subcategory int not null,

index(subcategory)

) engine=InnoDB;

我又往表里面填入一些样本数据  www.bitsCN.com

[sql]

insert into subcategory(id, category)

select i, i/100 from number

where i <= 300000;

insert into item(subcategory)

select id

from (

select id, rand() * 20 as num_rows from subcategory

) as x

cross join number

where i <= num_rows;

create temporary table t as

select subcategory from item

group by subcategory

having count(*) = 19

limit 100;

insert into item (subcategory)

select subcategory

from t

cross join number

where i < 2000;

再次说明,这些语句运行完需要一点时间,不适合放在产品环境中运行。思路是往item里插入随机行数的数据,这样subcategory就有1到2018之间个item。这不是实际中的完整数据,但效果一样。

我想找出某个category中item数大于2000的全部subcategory。首先,我找到一个subcategory item数大于2000的,然后把它的category用在接下来的查询中。这是具体的查询语句:

[sql]

select c.id

from subcategory as c

inner join item as i on i.subcategory = c.id

group by c.id

having count(*) > 2000;

-- choose one of the results, then

select * from subcategory where id = ????

-- result: category = 14

我拿到一个合适的值14,在以下的查询中会用到它。这是用来查询category 14 中所有item数大于2000的subcategory的语句:

[sql]

select c.id

from subcategory as c

inner join item as i on i.subcategory = c.id

where c.category = 14

group by c.id

having count(*) > 2000;

在我的样例数据里,查询的结果有10行记录,而且只用10多秒就完成了。EXPLAIN显示出很好地使用了索引;从数据的规模来看,相当不错了。查询计划是在索引上遍历并计算出目标记录。目前为止,非常好。

这回假设我要从subcategory取出全部的字段。我可以把上面的查询当成嵌套,然后用JOIN,或者SELECT MAX之类(既然分组集对应的值都是唯一的),但也写成跟下面的一样的,有木有?

[sql]

select * from subcategory

where id in (

select c.id

from subcategory as c

inner join item as i on i.subcategory = c.id

where c.category = 14

group by c.id

having count(*) > 2000

);

跑完这条查询估计要从破晓到夕阳沉入大地。我不知道它要跑多久,因为我没打算让它无休止地跑下去。你可能认为,单从语句上理解,它会:a)计算出里面的查询,找出那10个值,b)继续找出那10条记录,并且在primary索引上去找会非常地快。错,这是实际上的查询计划:

[sql]

*************************** 1. row ***************************

id: 1

select_type: PRIMARY

table: subcategory

type: ALL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: 300783

Extra: Using where

*************************** 2. row ***************************

id: 2

select_type: DEPENDENT SUBQUERY

table: c

type: ref

possible_keys: PRIMARY,category

key: category

key_len: 4

ref: const

rows: 100

Extra: Using where; Using index; Using temporary; Using filesort

*************************** 3. row ***************************

id: 2

select_type: DEPENDENT SUBQUERY

table: i

type: ref

possible_keys: subcategory

key: subcategory

key_len: 4

ref: c.id

rows: 28

Extra: Using index

如何你不熟悉如何分析mysql的语句查询计划,请看大概意思:mysql计划从外到内执行查询,而不是从内到外。我会一个一个地介绍查询的每个部分。

外面的查询简单地变成了SELECT * FROM subcategory。虽然里面的查询对subcategory有个约束(WHERE category = 14),但出于某些原因mysql没有将它作用于外面的查询。我不知道是神马原因。我只知道它扫描了整张表(这就是 type:ALL 表示的意思),并且没有使用任何的索引。这是在10几万行记录的表上扫描。

在外面的查询,对每行都执行一次里面的查询,尽管没有值被里面的查询使用到,因为里面的查询被“优化”成引用外面的查询。照此分析,查询计划变成了嵌套循环。外面的查询的每一次循环,都执行一次里面的查询。下面就是优化器重写后的查询计划:

[sql]

select * from subcategory as s

where <in_optimizer>(

s.id,<exists>(

select c.id

from subcategory as c

join item as i

where ((i.subcategory = c.id) and (c.category = 14))

group by c.id

having ((count(0) > 2000)

and (<cache>(s.id) = <ref_null_helper>(c.id))))

)

你可以通过在EXPLAIN EXTENDED 后面带上SHOW WARNINGS 得到优化后的查询。请留意在HAVING子句中指向的外部域。

我举这个例子并非有意抨击mysql的优化策略。众所皆知mysql在有些情况下还不能很好地优化嵌套查询,这个问题已经被广泛报告过。我想指出的是,开发者有必要检查查询语句确保它们不是被糟糕地优化。大多数情况下,安全起见若非是非必要,避免使用嵌套——尤其是WHERE...IN() 和 WHERE...NOT IN语句。

我自己的原则是“有疑问,EXPLAIN看看”。如果面对的是一个大数据表,我会自然而然地产生疑问。

如何强制里面的查询先执行

上一节中的语句撞板只因为mysql把它当成相关的语句从外到里地执行,而不是当成不相关语句从里到外执行。让mysql先执行里面的查询也是有办法的,当成临时表来实现,从而避免巨大的性能开销。

mysql从临时表来实现嵌套查询(某种程度上被讹传的衍生表)。这意味着mysql先执行里面的查询,并且把结果储存在临时表中,然后在其他的表里用到它。这就是我写这个查询时所期待的执行方式。查询语句修改如下:  www.bitsCN.com

[sql]

select * from subcategory

where id in (

select id from (

select c.id

from subcategory as c

inner join item as i on i.subcategory = c.id

where c.category = 14

group by c.id

having count(*) > 2000

) as x

);

我所做的就是把嵌套包着原来的嵌套查询。mysql会认为最里面是一个独立的嵌套查询先执行,然后现在只剩下包着外面的嵌套,它已经被装进一个临时表里,只有少量记录,因此要快很多。依此分析,这是相当笨的优化办法;倒不如把它重写成join方式。再说,免得被别人看到,当成多余代码清理掉。

有些情况可以使用这种优化方法,比如mysql抛出错误,嵌套查询的表在其他地方被修改(译注:另一篇文章 MySQL SELECT同时UPDATE同一张表 )。不幸的是,对于临时表只能在查询语句中使用一次的情况,这种方法就无能为力了。

来源  http://blog.csdn.net/afeiqiang/article/details/8620038

时间: 2024-09-29 05:18:45

优化mysql嵌套查询和联表查询的相关文章

mysql嵌套查询和联表查询优化方法_Mysql

嵌套查询糟糕的优化在上面我提到过,不考虑特殊的情况,联表查询要比嵌套查询更有效.尽管两条查询表达的是同样的意思,尽管你的计划是告诉服务器要做什么,然后让它决定怎么做,但有时候你非得告诉它改怎么做.否则优化器可能会做傻事.我最近就碰到这样的情况.这几个表是三层分级关系:category, subcategory和item.有几千条记录在category表,几百条记录在subcategory表,以及几百万条在item表.你可以忽略category表了,我只是交代一下背景,以下查询语句都不涉及到它.这

mysql 查询慢-mysql 近5万条数据的表 使用联表查询 出现服务器CPU占用过多

问题描述 mysql 近5万条数据的表 使用联表查询 出现服务器CPU占用过多 mysql 近5万条数据的表 使用联表查询 出现服务器CPU占用过多,贴大神代码求优化指点!!!!!有两张表分别为:lu_yccdd 和 lu_taizhang使用的联表查询代码:SELECT distinct(t.sc_time) sc_timecount(distinct(y.id)) totalcount(distinct(t.cdd_id)) tjjg(count(distinct(y.id))-count(

在Derby数据库中联表查询的时候遇到两个表中相同的列名如何使用rs.getString(表名.列名查询)?表名.列名试过不行

问题描述 在Derby数据库中联表查询的时候遇到两个表中相同的列名如何使用rs.getString(表名.列名查询)?表名.列名试过不行.希望高手回答!!!!! 解决方案 解决方案二:自己顶顶先等待高手的答复~~~~~解决方案三:好像一般数据库的都不行一种方式用列序号取,最好还是改成其他名字解决方案四:终于有兄弟回复了,感激一下先.但是很多数据库都是支持的,比如说我们可爱的MySQL,SQLServer之类的稳定的数据库.Derby肯定是有的,但是我们不知道罢了.它的语法格式解决方案五:查询的时

select-sql语句的联表查询的效率问题

问题描述 sql语句的联表查询的效率问题 select * from a,b where a.id = b.id select * from a inner join b on a.id = b.id 这两种哪一种效率更高呢 , 推荐使用哪一种? 第二种叫内连接 , 第一种方式叫什么来着?忘记了 .... 解决方案 第一个是等值连接,第二个是内连接,这俩效果一样,效率也一样 解决方案二: 这两个写法都是内连接 解决方案三: 查询低效率的sql语句 解决方案四: 都叫内连接,也叫等值连接

数据-mybaits 怎么做联表查询

问题描述 mybaits 怎么做联表查询 我想 查询 两个表的数据 例如 a ,b "这里 怎么写" "这里怎么写" 我查出来的 只是 一个表的数据 解决方案 http://www.th7.cn/Program/java/201312/165806.shtml 解决方案二: 具体怎么做自己查找 解决方案三: 我只是试一下代码是不是不显示

java-Spring data jpa 如何进行分页联表查询?

问题描述 Spring data jpa 如何进行分页联表查询? 具体使用jpa方法:Page findAll(Specification spec, Pageable pageable); 查询语句:select t.vehicle_id,t.id_number,t.org_code,t.vehicleStatus,t4.TYPE_NAME,t1.TERMINAL_ID,t2.TTYPE_NAME,T3.SIM_NUM from V_VEHICLEINFO t left join T_TERM

详解Yii2.0使用AR联表查询实例

Yii2.0中使用联表查询有两种办法,第一种是查询构建器(Query Builder),第二种使用活动记录(Active Record),中文网对查询构建器讲的很详细,AR则说的很坑爹,下面贴出自己实践的方法,以供参考. 两个表 {{%article}} 和 {{%article_class}} {{%article}} .article_class关联{{%article_class}}.id 1.要使用AR做关联查询,首先在models {Article} 中创建关联: class Arti

MySQL基本SQL查询语句:多表查询和子查询示例

一.简单查询:基本语法:  代码如下 复制代码 SELECT * FROM tb_name; 查询全部  代码如下 复制代码 SELECT field1,field2 FROM tb_name; 投影  代码如下 复制代码 SELECT [DISTINCT] * FROM tb_name WHERE qualification;  选择 说明: FROM子句: 要查询的关系         表.多个表.其它SELECT语句 WHERE子句:布尔关系表达式,主要包含如下这几类表达式: 比较:=.>

【Mysql】禁止在项目中使用跨库联表查询

原因 耦合度太高 如果两张数据表处于不同的数据库中,那么它们在开始的时候就在不同的子系统中,也就是说在设计过程中没有很强的关联关系,在一句sql中进行关联,不符合分而治之的思想. 效率问题 如果两个数据库在同一个数据库实例中,查询效率还是能接受的. 但是,如果随着以后的时间推移,子系统越来越庞大,需要将数据库迁移出实例,那么,再次查询的时候就会有很大的效率问题. 总结 子系统之间的关联还是要本着『高内聚低耦合』,不能在写sql的小问题上马虎.