MySQL索引底层数据结构是什么

38次阅读
没有评论

共计 10557 个字符,预计需要花费 27 分钟才能阅读完成。

本篇文章为大家展示了 MySQL 索引底层数据结构是什么,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

案例:

CREATE TABLE `employees` (`id` int(11) NOT NULL AUTO_INCREMENT, `name` varchar(24) NOT NULL DEFAULT COMMENT 姓名 , `age` int(11) NOT NULL DEFAULT 0 COMMENT 年龄 , `position` varchar(20) NOT NULL DEFAULT COMMENT 职位 , `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT 入职时间 , PRIMARY KEY (`id`), KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT= 员工记录表 INSERT INTO employees(name,age,position,hire_time) VALUES(LiLei ,22, manager ,NOW());INSERT INTO employees(name,age,position,hire_time) VALUES(HanMeimei , 23, dev ,NOW());INSERT INTO employees(name,age,position,hire_time) VALUES(Lucy ,23, dev ,NOW());

分析以下几条 sql 的索引使用情况:

SELECT * FROM employees WHERE name= LiLei SELECT * FROM employees WHERE name= LiLei AND age = 22 AND position = manager SELECT * FROM employees WHERE age = 22 AND position = manager SELECT * FROM employees WHERE name= LiLei AND age 22 AND position = manager SELECT * FROM employees WHERE name != LiLei

Mysql 的索引分析

MySQL 官方对索引的定义为:索引 (Index) 是帮助 MySQL 高效获取数据的数据结构。索引的本质:索引是数据结构,而且是实现了高级查找算法的数据结构 索引一般以文件形式存储在磁盘上,索引检索需要磁盘 I / O 操作。

磁盘存取原理

寻道时间(速度慢,费时)。

旋转时间(速度较快) 预读:长度为页的整倍数(主存和磁盘以页为单位交换数据,一页 4K)。

索引的结构

二叉树;

红黑树;

HASH;

BTREE。

索引底层数据结构与算法

Hash 索引

如果是等值查询,哈希索引明显有绝对优势,前提:键值唯一。

哈希索引没办法完成范围查询检索 哈希索引也没办法利用索引完成排序,以及 like‘xxx%’这样的部分模糊查询 哈希索引也不支持多列联合索引的 在有大量重复键值情况下,哈希索引的效率也最左前缀原则是极低的,因为存在哈希碰撞问题。

B-Tree

度(Degree)- 节点的数据存储个数;

叶子节点具有相同的深度;

叶子节点的指针为空;

节点中的数据 key 从左到右递增排列。

B+Tree

非叶子节点不存储 data,只存储 key,可以增大度;

叶子节点不存储指针;

顺序访问指针,提高区间访问的性能。

MyISAM 索引实现(非聚集)

MyISAM 索引文件和数据文件是分离的。

InnoDB 索引实现(聚集)

数据文件本身就是索引文件;

表数据文件本身就是按 B +Tree 组成的一个索引结构文件;

聚集索引 - 叶节点包含了完整的数据记录;

为什么 InnoDB 表要求有主键,并且推荐使用整型的自增主键;

为什么非主键索引结构叶子节点存储的是主键值?(一致性和节省存储空间)。

联合索引数据结构

EXPLAIN 执行计划

使用 EXPLAIN 关键字可以模拟优化器执行 SQL 语句,从而知道 MySQL 是 如何处理你的 SQL 语句的,分析你的查询语句或者表结构的性能瓶颈。

语法:Explain + SQL 语句

在 select 语句之前增加 explain 关键字,MySQL 会在查询上设置一个标记,执行查询时,会返回执行计划的信息,而不是执行这条 SQL(如果 from 中包含子查询,仍会执行该子查询,将结果放入临时表中)。

执行计划作用

表的读取顺序;

数据读取操作的操作类型;

哪些索引可以使用;

哪些索引被实际使用;

表之间的引用;

每张表有多少行被优化器查询。

explain 案例

DROP TABLE IF EXISTS `actor`;CREATE TABLE `actor` (`id` int(11) NOT NULL, `name` varchar(45) DEFAULT NULL, `update_time` datetime DEFAULT NULL, PRIMARY KEY (`id`)) ENGINE=InnoDB DEFAULT CHARSET=utf8; INSERT INTO `actor` (`id`, `name`, `update_time`) VALUES (1, a , 2017-12-22 15:27:18), (2, b , 2017-12-22 15:27:18), (3, c , 2017-12-22 15:27:18 DROP TABLE IF EXISTS `film`;CREATE TABLE `film` ( `id` int(11) NOT NULL AUTO_INCREMENT, `name` varchar(10) DEFAULT NULL, PRIMARY KEY (`id`), KEY `idx_name` (`name`)) ENGINE=InnoDB DEFAULT CHARSET=utf8;INSERT INTO `film` (`id`, `name`) VALUES (3, film0),(1, film1),(2, film2 DROP TABLE IF EXISTS `film_actor`;CREATE TABLE `film_actor` ( `id` int(11) NOT NULL, `film_id` int(11) NOT NULL, `actor_id` int(11) NOT NULL, `remark` varchar(255) DEFAULT NULL, PRIMARY KEY (`id`), KEY `idx_film_actor_id` (`film_id`,`actor_id`)) ENGINE=InnoDB DEFAULT CHARSET=utf8;INSERT INTO `film_actor` (`id`, `film_id`, `actor_id`) VALUES (1,1,1),(2,1,2),(3,2,1);

explain select * from actor;

在查询中的每个表会输出一行,如果有两个表通过 join 连接查询,那么会输出两行。表的意义相当广泛:可以是子查询、一个 union 结果等。

explain 两个变种

explain extended

会在 explain 的基础上额外提供一些查询优化的信息。紧随其后通过 show warnings 命令可以 得到优化后的查询语句,从而看出优化器优化了什么。额外还有 filtered 列,是一个半分比的值,rows * filtered/100 可以估算出将要和 explain 中前一个表进行连接的行数(前一个表指 explain 中的 id 值比当前表 id 值小的表)。

explain extended select * from film where id = 1;

show warnings;

explain partitions

相比 explain 多了个 partitions 字段,如果查询是基于分区表的话,会显示查询将访问的分区。

explain 中的列

接下来我们将展示 explain 中每个列的信息。

1. id

id 列的编号是 select 的序列号,有几个 select 就有几个 id,并且 id 的顺序是按 select 出现的顺序增长的。MySQL 将 select 查询分为简单查询 (SIMPLE) 和复杂查询(PRIMARY)。复杂查询分为三类:简单子查询、派生表(from 语句中的子查询)、union 查询。id 列越大执行优先级越高,id 相同则从上往下执行,id 为 NULL 最后执行。

1)简单子查询

explain select (select 1 from actor limit 1) from film;

2)from 子句中的子查询

explain select id from (select id from film) as der;

这个查询执行时有个临时表别名为 der,外部 select 查询引用了这个临时表。

3)union 查询

explain select 1 union all select 1;

union 结果总是放在一个匿名临时表中,临时表不在 SQL 中出现,因此它的 id 是 NULL。

2. select_type 列

select_type 表示对应行是简单还是复杂的查询,如果是复杂的查询,又是上述三种复杂查询中的哪一种。1)simple:简单查询。查询不包含子查询和 union。

explain select * from film where id = 2;

2)primary:复杂查询中最外层的 select 3)subquery:包含在 select 中的子查询(不在 from 子句中) 4)derived:包含在 from 子句中的子查询。MySQL 会将结果存放在一个临时表中,也称为派生表(derived 的英文含义) 用这个例子来了解 primary、subquery 和 derived 类型。

explain select (select 1 from actor where id = 1) from (select * from film where id = 1) der;

5)union:在 union 中的第二个和随后的 select 6)union result:从 union 临时表检索结果的 select 用这个例子来了解 union 和 union result 类型:

explain select 1 union all select 1;

3. table 列

这一列表示 explain 的一行正在访问哪个表。当 from 子句中有子查询时,table 列是 格式,表示当前查询依赖 id=N 的查询,于是先执行 id=N 的查询。当有 union 时,UNION RESULT 的 table 列的值为,1 和 2 表示参与 union 的 select 行 id。

4. type 列

这一列表示关联类型或访问类型,即 MySQL 决定如何查找表中的行,查找数据行记录的大概范围。

完整的结果值从最优到最差分别为:system const eq_ref ref fulltext ref_or_null index_merge unique_subquery index_subquery range index ALL

需要记忆的:system const eq_ref ref range index ALL 一般来说,得保证查询达到 range 级别,最好达到 refNULL:mysql 能够在优化阶段分解查询语句,在执行阶段用不着再访问表或索引。例如:在索引列中选取最小值,可以单独查找索引来完成,不需要在执行时访问表。

explain select min(id) from film;

const, system:mysql 能对查询的某部分进行优化并将其转化成一个常量(可以看 show warnings 的结果)。用于 primary key 或 unique key 的所有列与常数比较时,所以表最多有一个匹配行,读取 1 次,速度比较快。system 是 const 的特例,表里只有一条元组匹配时为 system。

explain extended select * from (select * from film where id = 1) tmp;

show warnings;

eq_ref:primary key 或 unique key 索引的所有部分被连接使用,最多只会返回一条符合条件的记录。这可能是在 const 之外最好的联接类型了,简单的 select 查询不会出现这种 type。

explain select * from film_actor left join film on film_actor.film_id = film.id;

ref:相比 eq_ref,不使用唯一索引,而是使用普通索引或者唯一性索引的部分前缀,索引要和某个值相比较,可能会找到多个符合条件的行。

简单 select 查询,name 是普通索引(非唯一索引)

explain select * from film where name = film1

关联表查询,idxfilmactorid 是 filmid 和 actorid 的联合索引,这里使用到了 filmactor 的左边前缀 film_id 部分。

explain select film_id from film left join film_actor on film.id = film_actor.film_id;

range:范围扫描通常出现在 in(), between , , , = 等操作中。使用一个索引来检索给定范围的行。

explain select * from actor where id

index:扫描全表索引,这通常比 ALL 快一些。

explain select * from film;

ALL:即全表扫描,意味着 mysql 需要从头到尾去查找所需要的行。通常情况下这需要增加索引来进行优化了。

explain select * from actor;

5. possible_keys 列

这一列显示查询可能使用哪些索引来查找。explain 时可能出现 possible_keys 有列,而 key 显示 NULL 的情况,这种情况是因为表中数据不多,mysql 认为索引对此查询帮助不大,选择了全表查询。如果该列是 NULL,则没有相关的索引。在这种情况下,可以通过检查 where 子句看是否可以创造一个适当的索引来提高查询性能,然后用 explain 查看效果。

6. key 列

这一列显示 mysql 实际采用哪个索引来优化对该表的访问。如果没有使用索引,则该列是 NULL。如果想强制 mysql 使用或忽视 possible_keys 列中的索引,在查询中使用 force index、ignore index。

explain select * from film ignore index(idx_name);

7. key_len 列

这一列显示了 mysql 在索引里使用的字节数,通过这个值可以算出具体使用了索引中的哪些列。举例来说,filmactor 的联合索引 idxfilmactorid 由 filmid 和 actorid 两个 int 列组成,并且每个 int 是 4 字节。通过结果中的 keylen= 4 可推断出查询使用了第一个列:filmid 列来执行索引查找。

mysql explain select * from film_actor where film_id = 2;

key_len 计算规则如下:

字符串;

char(n):n 字节长度;

varchar(n):2 字节存储字符串长度,如果是 utf-8,则长度 3n + 2;

数值类型;

tinyint:1 字节;

smallint:2 字节;

int:4 字节;

bigint:8 字节;

时间类型;

date:3 字节;

timestamp:4 字节;

datetime:8 字节;

如果字段允许为 NULL,需要 1 字节记录是否为 NULL。

索引最大长度是 768 字节,当字符串过长时,mysql 会做一个类似左前缀索引的处理,将前半部分的字符提取出来做索引。

8. ref 列

这一列显示了在 key 列记录的索引中,表查找值所用到的列或常量,常见的有:const(常量),字段名(例:film.id)。

9. rows 列

这一列是 mysql 估计要读取并检测的行数,注意这个不是结果集里的行数。

10. Extra 列

这一列展示的是额外信息。常见的重要值如下:Using index:查询的列被索引覆盖,并且 where 筛选条件是索引的前导列,是性能高的表现。一般是使用了覆盖索引(索引包含了所有查询的字段)。对于 innodb 来说,如果是辅助索引性能会有不少提高。

explain select film_id from film_actor where film_id = 1;

Using where:查询的列未被索引覆盖,where 筛选条件非索引的前导列。

explain select * from actor where name = a

Using where Using index:查询的列被索引覆盖,并且 where 筛选条件是索引列之一但是不是索引的前导列,意味着无法直接通过索引查找来查询到符合条件的数据。

explain select film_id from film_actor where actor_id = 1;

NULL:查询的列未被索引覆盖,并且 where 筛选条件是索引的前导列,意味着用到了索引,但是部分字段未被索引覆盖,必须通过“回表”来实现,不是纯粹地用到了索引,也不是完全没用到索引。

explain select * from film_actor where film_id = 1;

Using index condition:与 Using where 类似,查询的列不完全被索引覆盖,where 条件中是一个前导列的范围;

explain select * from film_actor where film_id

Using temporary:mysql 需要创建一张临时表来处理查询。出现这种情况一般是要进行优化的,首先是想到用索引来优化。1. actor.name 没有索引,此时创建了张临时表来 distinct。

explain select distinct name from actor;

film.name 建立了 idx_name 索引,此时查询时 extra 是 using index, 没有用临时表

explain select distinct name from film;

Using filesort:mysql 会对结果使用一个外部索引排序,而不是按索引次序从表里读取行。此时 mysql 会根据联接类型浏览所有符合条件的记录,并保存排序关键字和行指针,然后排序关键字并按顺序检索行信息。这种情况下一般也是要考虑使用索引来优化的。

1. actor.name 未创建索引,会浏览 actor 整个表,保存排序关键字 name 和对应的 id,然后排序 name 并检索行记录。

explain select * from actor order by name;

2. film.name 建立了 idx_name 索引, 此时查询时 extra 是 using index

explain select * from film order by name;

索引最佳实践

使用的表

CREATE TABLE `employees` (`id` int(11) NOT NULL AUTO_INCREMENT, `name` varchar(24) NOT NULL DEFAULT COMMENT 姓名 , `age` int(11) NOT NULL DEFAULT 0 COMMENT 年龄 , `position` varchar(20) NOT NULL DEFAULT COMMENT 职位 , `hire_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT 入职时间 , PRIMARY KEY (`id`), KEY `idx_name_age_position` (`name`,`age`,`position`) USING BTREE) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8 COMMENT= 员工记录表 INSERT INTO employees(name,age,position,hire_time) VALUES(LiLei ,22, manager ,NOW());INSERT INTO employees(name,age,position,hire_time) VALUES(HanMeimei , 23, dev ,NOW());INSERT INTO employees(name,age,position,hire_time) VALUES(Lucy ,23, dev ,NOW());

最佳实践

1. 全值匹配

EXPLAIN SELECT * FROM employees WHERE name= LiLei

EXPLAIN SELECT * FROM employees WHERE name= LiLei AND age = 22;

EXPLAIN SELECT * FROM employees WHERE name= LiLei AND age = 22 AND position = manager

2. 最左前缀法则

如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列。

EXPLAIN SELECT * FROM employees WHERE age = 22 AND position = manager

EXPLAIN SELECT * FROM employees WHERE position = manager

EXPLAIN SELECT * FROM employees WHERE name = LiLei

3. 不要在索引列上做任何操作 (计算、函数、(自动 or 手动) 类型转换),会导致索引失效而转向全表扫描

EXPLAIN SELECT * FROM employees WHERE name = LiLei

EXPLAIN SELECT * FROM employees WHERE left(name,3) = LiLei

4. 存储引擎不能使用索引中范围条件右边的列

EXPLAIN SELECT * FROM employees WHERE name= LiLei AND age = 22 AND position = manager

EXPLAIN SELECT * FROM employees WHERE name= LiLei AND age 22 AND position = manager

5. 尽量使用覆盖索引(只访问索引的查询(索引列包含查询列)),减少 select * 语句

EXPLAIN SELECT name,age FROM employees WHERE name= LiLei AND age = 23 AND position = manager

EXPLAIN SELECT * FROM employees WHERE name= LiLei AND age = 23 AND position = manager

6.mysql 在使用不等于 (!= 或者) 的时候无法使用索引会导致全表扫描

EXPLAIN SELECT * FROM employees WHERE name != LiLei

7.is null,is not null 也无法使用索引

EXPLAIN SELECT * FROM employees WHERE name is null;

8.like 以通配符开头($abc…)mysql 索引失效会变成全表扫描操作

EXPLAIN SELECT * FROM employees WHERE name like %Lei

EXPLAIN SELECT * FROM employees WHERE name like Lei%

问题:解决 like % 字符串 % 索引不被使用的方法?a)使用覆盖索引,查询字段必须是建立覆盖索引字段

EXPLAIN SELECT name,age,position FROM employees WHERE name like %Lei%

b)当覆盖索引指向的字段是 varchar(380)及 380 以上的字段时,覆盖索引会失效!

9. 字符串不加单引号索引失效

EXPLAIN SELECT * FROM employees WHERE name = 1000

EXPLAIN SELECT * FROM employees WHERE name = 1000;

10. 少用 or, 用它连接时很多情况下索引会失效

EXPLAIN SELECT * FROM employees WHERE name = LiLei or name = HanMeimei

11.in 和 exsits 优化

原则:小表驱动大表,即小的数据集驱动大的数据集

in:当 B 表的数据集必须小于 A 表的数据集时,in 优于 exists

select * from A where id in (select id from B)

explainselect*fromfilmwhereidin(selectfilm_idfromfilm_actor);

exists:当 A 表的数据集小于 B 表的数据集时,exists 优于 in 将主查询 A 的数据,放到子查询 B 中做条件验证,根据验证结果 (true 或 false) 来决定主查询的数据是否保留 select * from A where exists (select 1 from B where B.id = A.id) #A 表与 B 表的 ID 字段应建立索引

explain select * from film where exists (select 1 from film_actor where film_actor.film_id = film.id)

EXISTS (subquery)只返回 TRUE 或 FALSE, 因此子查询中的 SELECT * 也可以是 SELECT 1 或 select X, 官方说法是实际执行时会忽略 SELECT 清单, 因此没有区别。EXISTS 子查询的实际执行过程可能经过了优化而不是我们理解上的逐条对比。EXISTS 子查询往往也可以用 JOIN 来代替,何种最优需要具体问题具体分析。

总结:

①MySQL 支持两种方式的排序 filesort 和 index,Using index 是指 MySQL 扫描索引本身完成排序。index 效率高,filesort 效率低。

②order by 满足两种情况会使用 Using index。

order by 语句使用索引最左前列。

使用 where 子句与 order by 子句条件列组合满足索引最左前列。

③尽量在索引列上完成排序,遵循索引建立 (索引创建的顺序) 时的最左前缀法则。

④如果 order by 的条件不在索引列上,就会产生 Using filesort。⑤group by 与 order by 很类似,其实质是先排序后分组,遵照索引创建顺序的最左前缀法则。注意 where 高于 having,能写在 where 中的限定条件就不要去 having 限定了。

上述内容就是 MySQL 索引底层数据结构是什么,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注丸趣 TV 行业资讯频道。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-01发表,共计10557字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)