MySQL中IN子查询会导致无法使用索引

原文:MySQL中IN子查询会导致无法使用索引

 

今天看到一个博客园的一篇关于MySQL的IN子查询优化的案例,
一开始感觉有点半信半疑(如果是换做在SQL Server中,这种情况是绝对不可能的,后面会做一个简单的测试。)
随后动手按照他说的做了一个表来测试验证,发现MySQL的IN子查询做的不好,确实会导致无法使用索引的情况(IN子查询无法使用所以,场景是MySQL,截止的版本是5.7.18)

MySQL的测试环境

测试表如下

create table test_table2
(
    id int auto_increment primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

建一个存储过程插入测试数据,测试数据的特点是pay_id可重复,这里在存储过程处理成,循环插入300W条数据的过程中,每隔100条数据插入一条重复的pay_id,时间字段在一定范围内随机

CREATE DEFINER=`root`@`%` PROCEDURE `test_insert`(IN `loopcount` INT)
    LANGUAGE SQL
    NOT DETERMINISTIC
    CONTAINS SQL
    SQL SECURITY DEFINER
    COMMENT ''
BEGIN

    declare cnt int;
    set  cnt = 0;
    while cnt< loopcount do
        insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        if (cnt mod 100 = 0) then
            insert into test_table2 (pay_id,pay_time,other_col) values  (cnt,date_add(now(), interval floor(300*rand()) day),uuid());
        end if;
        set cnt = cnt + 1;
    end while;
END

  执行 call test_insert(3000000); 插入303000行数据

 

 

两种子查询的写法

查询大概的意思是查询某个时间段之内的业务Id大于1的数据,于是就出现两种写法。

 

第一种写法如下:IN子查询中是某段时间内业务统计行数大于1的业务Id,外层按照IN子查询的结果进行查询,业务Id的列pay_id上有索引,逻辑也比较简单,
这种写法,在数据量大的时候确实效率比较低,用不到索引

select * from test_table2 force index(idx_pay_id)
where pay_id in (
  select pay_id from test_table2
  where pay_time>="2016-06-01 00:00:00"
    AND pay_time<="2017-07-03 12:59:59"
  group by pay_id
  having count(pay_id) > 1
);

执行结果:2.23秒

 

第二种写法,与子查询进行join关联,这种写法相当于上面的IN子查询写法,下面测试发现,效率确实有不少的提高

select tpp1.* from test_table2 tpp1,
(
     select pay_id
     from test_table2
      WHERE pay_time>="2016-07-01 00:00:00"
     AND pay_time<="2017-07-03 12:59:59"
     group by pay_id
     having count(pay_id) > 1
) tpp2
where tpp1.pay_id=tpp2.pay_id 

  执行结果:0.48秒

  

 

  In子查询的执行计划,发现外层查询是一个全表扫描的方式,没有用到pay_id上的索引

  

   join自查的执行计划,外层(tpp1别名的查询)是用到pay_id上的索引的。

   

   

 

  后面想对第一种查询方式使用强制索引,虽然是不报错的,但是发现根本没用

   

   如果子查询是直接的值,则是可以正常使用索引的。

  

  

  可见MySQL对IN子查询的支持,做的确实不怎么样。

 

  另外:加一个使用临时表的情况,虽然比不少join方式查询的,但是也比直接使用IN子查询效率要高,这种情况下,也是可以使用到索引的,不过这种简单的情况,是没有必要使用临时表的。

  

 

 

  

 

  下面是类似案例在sqlserver 2014中的测试,几乎完全一样的测试表结构和数量,可见这种情况下,两种写法,在SQL Server中可以认为是完全一样的(执行计划+效率),这一点SQL Server要比MySQL强不少

   下面是sqlserver中的测试环境脚本。

create table test_table2
(
    id int identity(1,1) primary key,
    pay_id int,
    pay_time datetime,
    other_col varchar(100)
)

begin  tran
declare @i int = 0
while @i<300000
begin
    insert into test_table2 values (@i,getdate()-rand()*300,newid());
    if(@i%1000=0)
    begin
        insert into test_table2 values (@i,getdate()-rand()*300,newid());
    end
    set @i = @i + 1
end
COMMIT
GO

create index idx_pay_id on test_table2(pay_id);
create index idx_time on test_table2(pay_time);
GO

select * from test_table2
where pay_id in (
                    select pay_id from test_table2
                    where pay_time>='2017-01-21 00:00:00'
                    AND pay_time<='2017-07-03 12:59:59'
                    group by pay_id
                    having count(pay_id) > 1
                );

select tpp1.* from test_table2 tpp1,
(
     select pay_id
     from test_table2
      WHERE pay_time>='2017-01-21 00:00:00'
     AND pay_time<='2017-07-30 12:59:59'
     group by pay_id having
     count(pay_id) > 1
) tpp2
where tpp1.pay_id=tpp2.pay_id
 

 

总结:在MySQL数据中,截止5.7.18版本,对IN子查询,仍要慎用

时间: 2024-09-02 20:20:57

MySQL中IN子查询会导致无法使用索引的相关文章

详细讲述MySQL中的子查询操作_Mysql

继续做以下的前期准备工作:     新建一个测试数据库TestDB:     create database TestDB;     创建测试表table1和table2: CREATE TABLE table1 ( customer_id VARCHAR(10) NOT NULL, city VARCHAR(10) NOT NULL, PRIMARY KEY(customer_id) )ENGINE=INNODB DEFAULT CHARSET=UTF8; CREATE TABLE table

在MySQL中使用子查询和标量子查询的基本操作教程_Mysql

MySQL 子查询子查询是将一个 SELECT 语句的查询结果作为中间结果,供另一个 SQL 语句调用.MySQL 支持 SQL 标准要求的所有子查询格式和操作,也扩展了特有的几种特性. 子查询没有固定的语法,一个子查询的例子如下: SELECT * FROM article WHERE uid IN(SELECT uid FROM user WHERE status=1) 对应的两个数据表如下: article 文章表: user 用户表: 查询返回结果如下所示: 在该例子中,首先通过子查询语

关于MYSQL DML(UPDATE DELETE)中的子查询问题和ERROR 1093 (HY000)错误

从5.6开始MYSQL的子查询进行了大量的优化,5.5中只有EXISTS strategy,在5.7中包含如下: IN(=ANY) --Semi-join   --table pullout(最快的,子查询条件为唯一键)   --first match   --semi-join materialization   --loosescan   --duplicateweedout --Materialization --EXISTS strategy(最慢的) NOT IN( <>ALL) -

mysql update使用子查询

今天我像以前操作Oracle写了一个update sql: update device_user a set a.scene_id=null where a.id not in(select min(t.id) from device_user t group by t.device_id); 根据子查询的结果,更新表中的一个字段. 在mysql数据库中执行后报错: Error Code: 1093. You can't specify target table 'a' for update i

mysql中关于分页查询的输出问题!

问题描述 mysql中关于分页查询的输出问题! String sql = ""select * from emp order by empno limit ??"";prepareStatement stmt = con.prepareStatement(sql); stmt.setInt(1 begin); stmt.setInt(2 end); ResultSet rs = stmt.executeQuery(); while (rs.next()) { Sys

mybatis-系统中一条查询sql导致整个系统无发法跟数据库交互,只能访问静态页面,该怎么办呢?

问题描述 系统中一条查询sql导致整个系统无发法跟数据库交互,只能访问静态页面,该怎么办呢? 情况是这样的: 在系统的查询数据页面, 有的查询语句比较复杂, 导致查询一直卡住, 即时在数据库中直接查询也需要10秒上, 这样, 在代码中的查询就是一条请求迟迟没有回应. 这样还导致了系统无法做任何跟数据库的交互的操作,即使使其他用户不同ip访问也不行. ?但是直接访问数据库还是可以的, 重启系统后, 也还是可以访问数据库的. 求教, 为什么一条sql会导致整个系统挂掉呢? 如果是影响到数据库,那为什

MySQL笔记之子查询使用介绍_Mysql

子查询是将一个查询语句嵌套在另一个查询语句中 内层查询语句的查询结果,可以为外层查询语句提供查询条件 因为在特定情况下,一个查询语句的条件需要另一个查询语句来获取 参考表:employee   参考表:department 带IN关键字的子查询 复制代码 代码如下: mysql> SELECT * FROM employee    -> WHERE d_id IN    -> (SELECT d_id FROM department);+------+------+--------+--

浅谈MySQL中的子查询优化技巧_Mysql

mysql的子查询的优化一直不是很友好,一直有受业界批评比较多,也是我在sql优化中遇到过最多的问题之一,你可以点击这里 ,这里来获得一些信息,mysql在处理子查询的时候,会将子查询改写,通常情况下,我们希望由内到外,也就是先完成子查询的结果,然后在用子查询来驱动外查询的表,完成查询,但是恰恰相反,子查询不会先被执行:今天希望通过介绍一些实际的案例来加深对mysql子查询的理解: 案例:用户反馈数据库响应较慢,许多业务动更新被卡住:登录到数据库中观察,发现长时间执行的sql: | 10437

MySQL查询优化:用子查询代替非主键连接查询实例介绍_Mysql

一对多的两张表,一般是一张表的外键关联到另一个表的主键.但也有不一般的情况,也就是两个表并非通过其中一个表的主键关联. 例如: 复制代码 代码如下: create table t_team ( tid int primary key, tname varchar(100) ); create table t_people ( pid int primary key, pname varchar(100), team_name varchar(100) ); team表和people表是一对多的关