首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MySQL中的两种临时表 外部临时表

MySQL中的两种临时表 外部临时表

作者头像
后端技术探索
发布2018-08-09 16:55:39
3.4K0
发布2018-08-09 16:55:39
举报
文章被收录于专栏:后端技术探索后端技术探索

MySQL中的两种临时表

外部临时表

通过CREATE TEMPORARY TABLE 创建的临时表,这种临时表称为外部临时表。这种临时表只对当前用户可见,当前会话结束的时候,该临时表会自动关闭。这种临时表的命名与非临时表可以同名(同名后非临时表将对当前会话不可见,直到临时表被删除)。

内部临时表

内部临时表是一种特殊轻量级的临时表,用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的,但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色, MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价,所以用户在写SQL语句的时候应该尽量的去避免使用临时表。

内部临时表有两种类型:一种是HEAP临时表,这种临时表的所有数据都会存在内存中,对于这种表的操作不需要IO操作。另一种是OnDisk临时表,顾名思义,这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE(详情请参考MySQL手册中系统变量部分),HEAP临时表将会被自动转换成OnDisk临时表。OnDisk临时表在5.7中可以通过INTERNAL_TMP_DISK_STORAGE_ENGINE系统变量选择使用MyISAM引擎或者InnoDB引擎。

本篇文章主要介绍哪些操作可能会利用到内部临时表。如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化,将有效的提高查询执行的效率。

首先我们定义一个表t1, CREATE TABLE t1( a int, b int); INSERT INTO t1 VALUES(1,2),(3,4);

下面所有的操作都是基于表t1进行举例的。

  • 在SQL语句中使用SQL_BUFFER_RESULT hint

SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话,需要较长时间将数据发送到客户端,通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。 例如:

	mysql> explain format=json select SQL_BUFFER_RESULT * from t1;
	EXPLAIN
	{	  "query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "2.00"
		},		"buffer_result": {		  "using_temporary_table": true,		  "table": {			"table_name": "t1",			"access_type": "ALL",
		...
  • 如果SQL语句中包含了DERIVED_TABLE。

在5.7中,由于采用了新的优化方式,我们需要使用 set optimizer_switch=’derived_merge=off’来禁止derived table合并到外层的Query中。 例如:

	mysql> explain format=json select * from (select * from t1) as tt;
	EXPLAIN
	{	  "query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "2.40"
		},		"table": {		  "table_name": "tt",		  "access_type": "ALL",
		  ...		  "materialized_from_subquery": {			"using_temporary_table": true,
		...
  • 如果我们查询系统表的话,系统表的数据将被存储到内部临时表中。

我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表,但是可以通过SHOW STATUS来查看是否利用到了内部临时表。 例如:

	mysql> select * from information_schema.character_sets;
	mysql> show status like 'CREATE%';
  • 如果DISTINCT语句没有被优化掉,即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用。
	mysql> explain format=json select distinct a from t1;
	EXPLAIN
	{
	{	  "query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "1.60"
		},		"duplicates_removal": {		  "using_temporary_table": true,
		...
  • 如果查询带有ORDER BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行排序。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access) 例如:

1))BNL默认是打开的

mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN
{  "query_block": {  "select_id": 1,  "cost_info": {	"query_cost": "22.00"
  },  "ordering_operation": {	"using_temporary_table": true,
  ...

2))关掉BNL后,ORDER BY将直接使用filesort。

mysql> set optimizer_switch='block_nested_loop=off';
Query OK, 0 rows affected (0.00 sec)mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN
{   "query_block": {	"select_id": 1,	"cost_info": {	  "query_cost": "25.00"
	},	"ordering_operation": {	  "using_filesort": true,
	...

2)ORDER BY的列不属于执行计划中第一个连接表的列。 例如:

mysql> explain format=json select * from t as t1, t as t2 order by t2.a;
EXPLAIN
{   "query_block": {	"select_id": 1,	"cost_info": {	  "query_cost": "25.00"
	},	"ordering_operation": {	  "using_temporary_table": true,
	...

3)如果ORDER BY的表达式是个复杂表达式。

那么什么样的ORDER BY表达式,MySQL认为是复杂表达式呢?

1))如果排序表达式是SP或者UDF。 例如:

drop function if exists func1;delimiter |create function func1(x int)returns int deterministicbegindeclare z1, z2 int;set z1 = x;set z2 = z1+2;return z2;end|
delimiter ;explain format=json select * from t1 order by func1(a);{
	"query_block": {
	"select_id": 1,
	"cost_info": {
	  "query_cost": "2.20"
	},
	"ordering_operation": {
	  "using_temporary_table": true,
	...

2))ORDER BY的列包含聚集函数

为了简化执行计划,我们利用INDEX来优化GROUP BY语句。 例如:

  create index idx1 on t1(a);
  explain format=json SELECt a FROM t1 group by a order by sum(a);
  | {
	   "query_block": {
		"select_id": 1,
		"cost_info": {
		  "query_cost": "1.20"
		},
		"ordering_operation": {
		  "using_temporary_table": true,
		  "using_filesort": true,
		  "grouping_operation": {
			"using_filesort": false,
		...  drop index idx1 on t1;

3))ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉。 例如:

explain format=json select (select rand() from t1 limit 1) as a from t1 order by a;		
| {	  "query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "1.20"
		},		"ordering_operation": {		  "using_temporary_table": true,		  "using_filesort": true,
			...

4) 如果查询既带有ORDER BY同时也有GROUP BY语句,但是两个语句使用的列不相同。

注意: 如果是5.7,我们需要将sql_mode设置为非only_full_group_by模式,否则会报错。

同样为了简化执行计划,我们利用INDEX来优化GROUP BY语句。 例如:

set sql_mode='';create index idx1 on t1(b);explain format=json select t1.a from t1 group by t1.b order by 1;| {
	 "query_block": {
		"select_id": 1,
		"cost_info": {
		  "query_cost": "1.40"
		},
	"ordering_operation": {
		  "using_temporary_table": true,
		  "using_filesort": true,
		  "grouping_operation": {
			"using_filesort": false,
	...drop index idx1 on t1;
  • 如果查询带有GROUP BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行GROUP BY。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)。 例如:

	explain format=json select t2.a from t1, t1 as t2 group by t1.a;
	| {		"query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "8.20"
		},		"grouping_operation": {		  "using_temporary_table": true,		  "using_filesort": true,		  "cost_info": {			"sort_cost": "4.00"
		...

2) 如果GROUP BY的列不属于执行计划中的第一个连接表。 例如:

	explain format=json select t2.a from t1, t1 as t2 group by t2.a;
	| {		"query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "8.20"
		},		"grouping_operation": {		  "using_temporary_table": true,		  "using_filesort": true,		  "nested_loop": [
		...

3) 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同。 例如:

	set sql_mode='';
	explain format=json select t1.a from t1 group by t1.b order by t1.a;
	| {	   "query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "1.40"
		},		"ordering_operation": {		  "using_filesort": true,		  "grouping_operation": {			"using_temporary_table": true,			"using_filesort": false,
		...

4) 如果GROUP BY带有ROLLUP并且是基于多表外连接。 例如:

	explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;
	| {		"query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "7.20"
		},		"grouping_operation": {		  "using_temporary_table": true,		  "using_filesort": true,		  "cost_info": {			"sort_cost": "4.00"
		  },
		...

5) 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY,并且没有被优化掉。 例如:

	explain format=json select (select avg(a) from t1) as a from t1 group by a;
	| {		"query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "3.40"
		},		"grouping_operation": {		  "using_temporary_table": true,		  "using_filesort": true,		  "cost_info": {			"sort_cost": "2.00"
		  },
		...
  • IN表达式转换为semi-join进行优化 1) 如果semi-join执行方式为Materialization 例如:
set optimizer_switch='firstmatch=off,duplicateweedout=off';
explain format=json select * from t1 where a in (select b from t1);
| {	"query_block": {	"select_id": 1,	"cost_info": {	  "query_cost": "5.60"
	},	"nested_loop": [
	  {		 "rows_examined_per_scan": 1,			  "materialized_from_subquery": {				"using_temporary_table": true,				"query_block": {				  "table": {					"table_name": "t1",					"access_type": "ALL",

	... 

2) 如果semi-join执行方式为Duplicate Weedout 例如:

	set optimizer_switch='firstmatch=off';
	explain format=json select * from t1 where a in (select b from t1);
	 | {		"query_block": {		"select_id": 1,		"cost_info": {		  "query_cost": "4.80"
		},		"duplicates_removal": {		  "using_temporary_table": true,		  "nested_loop": [
				{
		...
  • 如果查询语句带有UNION,MySQL将利用内部临时表帮助UNION操作消除重复。 例如:
	explain format=json select * from t1 union select * from t1;
	| {		"query_block": {		"union_result": {		  "using_temporary_table": true,		  "table_name": "<union1,2>",
		...
  • 如果查询语句使用多表更新。 这里Explain不能看到内部临时表被利用,所以需要查看status。 例如:
update t1, t1 as t2 set t1.a=3;show status like 'CREATE%';
  • 如果聚集函数中包含如下函数,内部临时表也会被利用。
1) count(distinct *)
例如:	explain format=json select count(distinct a) from t1;2) group_concat
例如:	explain format=json select group_concat(b) from t1;

总之,上面列出了10种情况,MySQL将利用内部临时表进行中间结果缓存,如果数据量比较大的话,内部临时表将会把数据存储在磁盘上,这样显然会对性能有所影响。为了尽可能的减少性能损失,我们需要尽量避免上述情况的出现。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2016-07-19,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 nginx 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • MySQL中的两种临时表
    • 外部临时表
      • 内部临时表
      相关产品与服务
      云数据库 MySQL
      腾讯云数据库 MySQL(TencentDB for MySQL)为用户提供安全可靠,性能卓越、易于维护的企业级云数据库服务。其具备6大企业级特性,包括企业级定制内核、企业级高可用、企业级高可靠、企业级安全、企业级扩展以及企业级智能运维。通过使用腾讯云数据库 MySQL,可实现分钟级别的数据库部署、弹性扩展以及全自动化的运维管理,不仅经济实惠,而且稳定可靠,易于运维。
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档