MySQL延迟关联性能优化方法

   这篇文章主要介绍了MySQL延迟关联性能优化方法,本文讲解了延迟关联的背景、延迟关联的分析、延迟关联的解决等内容,需要的朋友可以参考下

  【背景】

  某业务数据库load 报警异常,cpu usr 达到30-40 ,居高不下。使用工具查看数据库正在执行的sql ,排在前面的大部分是:

   代码如下:

  SELECT id, cu_id, name, info, biz_type, gmt_create, gmt_modified,start_time, end_time, market_type, back_leaf_category,item_status,picuture_url FROM relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20;

  表的数据量大致有36w左右,该sql是一个非常典型的排序+分页查询:order by col limit N,OFFSET M , MySQL 执行此类sql时需要先扫描到N行,然后再去取 M行。对于此类大数据量的排序操作,取前面少数几行数据会很快,但是越靠后,sql的性能就会越差,因为N越大,MySQL 需要扫描不需要的数据然后在丢掉,这样耗费大量的时间。

  【分析】

  针对limit 优化有很多种方式,

  1 前端加缓存,减少落到库的查询操作

  2 优化SQL

  3 使用书签方式 ,记录上次查询最新/大的id值,向后追溯 M行记录。

  4 使用Sphinx 搜索优化。

  对于第二种方式 我们推荐使用"延迟关联"的方法来优化排序操作,何谓"延迟关联" :通过使用覆盖索引查询返回需要的主键,再根据主键关联原表获得需要的数据。

  【解决】

  根据延迟关联的思路,修改SQL 如下:

  优化前

   代码如下:

  root@xxx 12:33:48>explain SELECT id, cu_id, name, info, biz_type, gmt_create, gmt_modified,start_time, end_time, market_type, back_leaf_category,item_status,picuture_url FROM relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20;

  +----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+

  | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

  +----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+

  | 1 | SIMPLE | relation | range | ind_endtime | ind_endtime | 9 | NULL | 349622 | Using where; Using filesort |

  +----+-------------+-------------+-------+---------------+-------------+---------+------+--------+-----------------------------+

  1 row in set (0.00 sec)

  其执行时间:


  优化后:

  代码如下:

  SELECT a.* FROM relation a, (select id from relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20 ) b where a.id=b.id

  代码如下:

  root@xxx 12:33:43>explain SELECT a.* FROM relation a, (select id from relation where biz_type ='0' AND end_time >='2014-05-29' ORDER BY id asc LIMIT 149420 ,20 ) b where a.id=b.id;

  +----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+

  | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

  +----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+

  | 1 | PRIMARY | | ALL | NULL | NULL | NULL | NULL | 20 | |

  | 1 | PRIMARY | a | eq_ref | PRIMARY | PRIMARY | 8 | b.id | 1 | |

  | 2 | DERIVED | relation | index | ind_endtime | PRIMARY | 8 | NULL | 733552 | |

  +----+-------------+-------------+--------+---------------+---------+---------+------+--------+-------+

  3 rows in set (0.36 sec)

  执行时间:


  优化后 执行时间 为原来的1/3 。

时间: 2024-08-03 23:29:37

MySQL延迟关联性能优化方法的相关文章

MySQL延迟关联性能优化方法_Mysql

[背景]   某业务数据库load 报警异常,cpu usr 达到30-40 ,居高不下.使用工具查看数据库正在执行的sql ,排在前面的大部分是: 复制代码 代码如下: SELECT id, cu_id, name, info, biz_type, gmt_create, gmt_modified,start_time, end_time, market_type, back_leaf_category,item_status,picuture_url FROM relation where

MySQL order by性能优化方法实例

  这篇文章主要介绍了MySQL order by性能优化方法实例,本文讲解了MySQL中order by的原理和优化order by的三种方法,需要的朋友可以参考下 前言 工作过程中,各种业务需求在访问数据库的时候要求有order by排序.有时候不必要的或者不合理的排序操作很可能导致数据库系统崩溃.如何处理好order by排序呢?本文从原理以及优化层面介绍 order by . 一 MySQL中order by的原理 1 利用索引的有序性获取有序数据 当查询语句的 order BY 条件和

MySQL order by性能优化方法实例_Mysql

前言 工作过程中,各种业务需求在访问数据库的时候要求有order by排序.有时候不必要的或者不合理的排序操作很可能导致数据库系统崩溃.如何处理好order by排序呢?本文从原理以及优化层面介绍 order by . 一 MySQL中order by的原理   1 利用索引的有序性获取有序数据   当查询语句的 order BY 条件和查询的执行计划中所利用的 Index 的索引键(或前面几个索引键)完全一致,且索引访问方式为 rang,ref 或者 index 的时候,MySQL 可以利用索

MySQL Index Condition Pushdown(ICP)性能优化方法实例

  这篇文章主要介绍了MySQL Index Condition Pushdown(ICP)性能优化方法实例,本文讲解了概念介绍.原理.实践案例.案例分析.ICP的使用限制等内容,需要的朋友可以参考下 一 概念介绍 Index Condition Pushdown (ICP)是MySQL 5.6 版本中的新特性,是一种在存储引擎层使用索引过滤数据的一种优化方式. a 当关闭ICP时,index 仅仅是data access 的一种访问方式,存储引擎通过索引回表获取的数据会传递到MySQL Ser

页面性能优化方法以及原理

问题描述 页面性能优化方法以及原理 页面性能优化方法都有哪些,以及背后的原理,请大神帮我解释一下 解决方案 负载均衡 cdn 页面缓存 预编译 解决方案二: 找**高性能网站建设指南.pdf**这本书看看 解决方案三: css放头部,js放尾部,静态资源使用其他域名,使用强缓存配合自动化构建,js模块化,js.css压缩,开启gzip压缩,cdn,反向代理,页面静态化--

基于调度器的Hadoop性能优化方法研究

基于调度器的Hadoop性能优化方法研究 刘娟: 豆育升: 何晨: 唐红 为了提高Hadoop调度器的调度性能,缩短Hadoop集群的任务整体响应时间,提出了一种基于CPU占用率的动态调度改进算法.首先对Hadoop传统的性能优化方法进行了对比,指出其存在问题的关键是缺乏动态性和灵活性.在此基础上,深入分析Hadoop默认任务调度模型,提出了一种以CPU占用率作为负载指标,在循环分配任务时根据反馈的负载指标判断节点负载情况的算法,动态适应负载变化.实验结果表明,该算法在Hadoop集群中,能有效

MySQL Index Condition Pushdown(ICP)性能优化方法实例_Mysql

一 概念介绍 Index Condition Pushdown (ICP)是MySQL 5.6 版本中的新特性,是一种在存储引擎层使用索引过滤数据的一种优化方式. a 当关闭ICP时,index 仅仅是data access 的一种访问方式,存储引擎通过索引回表获取的数据会传递到MySQL Server 层进行where条件过滤. b 当打开ICP时,如果部分where条件能使用索引中的字段,MySQL Server 会把这部分下推到引擎层,可以利用index过滤的where条件在存储引擎层进行

Mysql数据表的优化方法总结

优化表的数据类型 表需要使用何种数据类型,是需要根据应用来判断的.虽然应用设计的时候需要考虑字段的长度留有一定的冗余,但是不推荐让很多字段都留有大量的冗余,这样即浪费存储也浪费内存. 我们可以使用PROCEDURE ANALYSE()对当前已有应用的表类型的判断,该函数可以对数据表中的列的数据类型提出优化建议,可以根据应用的实际情况酌情考虑是否实施优化.语法:  代码如下 复制代码    SELECT * FROM tbl_name PROCEDURE ANALYSE();    SELECT

MYSQL 大数据性能优化

批量插入优化 在网上找了一些插入大量数据性能优化资料,提到了比较重要的一点是将 Java代码   insert into tablename(f1,f2,...) values (d1,d2,...);   insert into tablename(f1,f2,...) values (d1,d2,...);   ...    这样的单条单条的insert语句改造成 Java代码   insert into tablename(f1,f2,...) values (d1,d2,...),(d1