MySQL5.7对PREPARE STATEMENT和UNION ALL的小优化

这两个问题都是之前曾经在生产环境遇到过的,在MySQL5.7里都被很好的解决掉了。简单的记录下;

Q1:
对于prepare statement,总是需要生成完整的SQL,而生成的主要目的是为了复制 (即时你的复制模式为ROW模式!!!)
大概是2012年的下半年,接到一个线上的case,有业务用prepare statement导入数据非常缓慢,导入的方式类似于insert into tbname values (?)….(?)。。。大量的”?”。业务方发现这种批量插入的方式奇慢无比,完全无法满足业务的需要。

从perf 输出我们看到,bmove_upp 的占比非常高,进而根据其调用栈发现卡在Prepared_statement::setup_set_params

具体的不细说了,测试数据和当时我为了绕过这个问题写的一个小patch,可以阅读这个bug report:http://bugs.mysql.com/bug.php?id=67676

修复的方式也很简单,就是对于ROW模式,不再为prepared statement组建SQL.

TIPS: 在5.7里bmove_upp函数已经被移除了,改而使用memmove (Rev:5943)

5.7.2的change log:
Performance of prepared DML statements containing ? parameter substitution markers was improved under row-based logging format: Since the binary log in this case need not include the statement text, and since the statement will not be forced to statement-based logging as some DDL statements might be, there is no need to substitute ? markers to produce a statement suitable for logging. (Bug #67676, Bug #16038776)

官方Patch:Rev:5360, 和我的fix基本类似

Q2:
使用union all来聚合多个SELECT的结果时,需要创建临时表;但这种行为在使用UNION ALL时,是没有必要的,因为建立临时表的目的是为了去重,而根据UNION ALL的语义是无需这么做的。

这是我第一次在线上遇到这个问题,业务方使用大约20个union all来进行数据导出,导致实例的IO直接hang死,经过半天的排查,才定位到原因,年少无知的俺在Facebook上感慨了下,就有人指出这已经是个老Bug了….o(╯□╰)o

Discuss on Facebook:

Bug连接:http://bugs.mysql.com/bug.php?id=50674

该Bug在最近的MySQL5.7.3中被fix掉,真可谓举世欢庆啊, Percona的Peter还专门撰文提到这个问题…
根据change log的描述,满足如下条件的union将无需创建临时表(参考函数st_select_lex_unit::union_needs_tmp_table):
* The union is UNION ALL, not UNION or UNION DISTINCT.
* There is no global ORDER BY clause.
* The union is not the top-level query block of an {INSERT | REPLACE}
… SELECT … statement.
总的来说,在fix该bug后,以后可以放心的使用UNION ALL了。

官方Patch: Rev:6836  及 Rev:6847

时间: 2024-09-18 04:40:13

MySQL5.7对PREPARE STATEMENT和UNION ALL的小优化的相关文章

通过调整表union all的顺序优化SQL

原文:通过调整表union all的顺序优化SQL 操作系统:Windows XP 数据库版本:SQL Server 2005 今天遇到一个SQL,过滤条件是自动生成的,因此,没法通过调整SQL的谓词达到优化的目的,只能去找SQL中的"大表".有一个视图返回的结果集比较大,如果能调整的话,也只能调整该视图了. 看了一下该视图的结构,里面还套用了另一层视图,直接看最里层视图的查询SQL. SELECT a.dfeesum_no , a.opr_amt - ISNULL(b.dec_pay

SQL UNION 和 UNION ALL 操作符

SQL UNION 操作符 UNION 操作符用于合并两个或多个 SELECT 语句的结果集. 请注意,UNION 内部的 SELECT 语句必须拥有相同数量的列.列也必须拥有相似的数据类型.同时,每条 SELECT 语句中的列的顺序必须相同. SQL UNION 语法 SELECT column_name(s) FROM table_name1 UNION SELECT column_name(s) FROM table_name2 注释:默认地,UNION 操作符选取不同的值.如果允许重复的

Mysql联合查询UNION和UNION ALL的使用介绍_Mysql

一.UNION和UNION ALL的作用和语法 UNION 用于合并两个或多个 SELECT 语句的结果集,并消去表中任何重复行.UNION 内部的 SELECT 语句必须拥有相同数量的列,列也必须拥有相似的数据类型.同时,每条 SELECT 语句中的列的顺序必须相同.SQL UNION 语法: 复制代码 代码如下: SELECT column_name FROM table1UNIONSELECT column_name FROM table2 注释:默认地,UNION 操作符选取不同的值.如

sql中UNION和UNION ALL比较与用法

union只是将两个结果联结起来一起显示,并不是联结两个表---- UNION 的语法如下: [SQL 语句 1] UNION [SQL 语句 2] 假设我们有以下的两个表格,   Store_Information 表格   store_name Sales Date  代码如下 复制代码 Los Angeles $1500 Jan-05-1999 San Diego $250 Jan-07-1999 Los Angeles $300 Jan-08-1999 Boston $700 Jan-0

MySQL5的存储过程详细实例

MySQL 5.0 新特性教程是为需要了解5.0版本新特性的MySQL老用户而写的.简单的来说是介绍了"存储过程.触发器.视图.信息架构视图 格式: CREATE PROCEDURE 过程名 ([过程参数[,...]]) [特性 ...] 过程体 CREATE FUNCTION 函数名 ([函数参数[,...]]) RETURNS 返回类型 [特性 ...] 函数体 过程参数: [ IN | OUT | INOUT ] 参数名 参数类型 函数参数: 参数名 参数类型 返回类型: 有效的MySQL

sql union all 语法

sql union all 语法 表名:table 字段:id  username ytime 需要实现的结果是: 查询1:    select top 5 * from table where id>20 order by id asc 查询2:    select top 5 * from table where id<20 order by id desc 并且再将查询1和查询2之和,再按照id的倒序.原以为:查询2好办,本来就倒序了,并且都小于20,所以这个不需要改动的.现在需要再将查

[20150504]奇怪的逻辑读union or.txt

[20150504]奇怪的逻辑读union or.txt --在优化一个项目时遇到一个奇怪的情况,自己做例子测试看看. SCOTT@test> @ver1 PORT_STRING                    VERSION        BANNER ------------------------------ -------------- -------------------------------------------------------------------------

mysql5.7.10开启慢查询详解_Mysql

如下所示: #在/etc/my.cnf中的[mysqld]中加入如下代码: slow-query-log=On slow_query_log_file=/data/mysql/log/mysql_slow_query.log long_query_time=2 log_queries_not_using_indexes = ON 第一句是开启慢查询 第二句是用来定义慢查询日志的路径 第三句是用来定义查过多少秒的查询算是慢查询,我这里定义的是2秒 第四句就是记录下没有使用索引的query 以上这篇

MySQL · 社区贡献 · AliSQL那些事儿

一直以来我们都在不断对我们的阿里云MySQL分支做极致的性能优化及功能扩展.我们从社区的分支,如上游版本及Percona Server上学习新的改进和功能,并引入到我们的分支中.同时我们也将我们的一些改进思路反馈到上游,让整个社区也能享受到我们的成果. 本文主要介绍下AliSQL贡献给上游MySQL5.7版本的一些跟性能相关的优化.注意这里只摘取了几个比较有意思的优化,在即将开源的AliSQL中,我们将包含更加全面.更加强悍的性能优化补丁以及更丰富的扩展功能,敬请期待 :) 优化row模式下的p